Anatomía de las posibilidades y las pifias de los chatbots

Indagamos en la historia y la tipología actual de estas herramientas conversacionales modeladas por la IA, y exploramos sus principales ventajas y limitaciones a día de hoy.

Pedro Fernaud

Periodista

Guardar

Un buen chatbot, reconoce sus limitaciones y deriva los temas más complejos.
Un buen chatbot, reconoce sus limitaciones y deriva los temas más complejos.

En su vertiente más sencilla, un chatbot es un programa informático que simula y procesa conversaciones humanas (ya sea escritas o habladas), de manera que posibilita que las personas interactúen con dispositivos digitales, empresas o servicios online como si estuvieran comunicándose con una persona. 

La vanguardia de los chatbots: los contextuales y los cognitivos 

En su vertiente más avanzada, funcionan por ejemplo los chabots contextuales. Un ámbito en el que se inscriben Alexa, Google Assistant y Siri. Estos asistentes virtuales emplean el aprendizaje automático, la inteligencia artificial (IA) y la comprensión del lenguaje natural para evocar conversaciones con usuarios concretos y aprender con el discurso del tiempo, gracias a su capacidad para recuperar conversaciones de experiencias pasadas con los usuarios, como lo que buscan esos internautas, cómo lo solicitan, etc. Lo que les permite ganar en eficiencia. 

Por ejemplo, un chatbot contextual concebido para pedidos de pizzas puede almacenar los datos de un cliente de cada conversación. De manera que guarda la dirección de entrega y la información de pago más recientes del cliente y las recupera para el siguiente uso, ahorrando así una cantidad estimable de tiempo y energía al usuario. Estos chatbots, también conocidos como cognitivos o smart chatbots, cuando están bien concebidos y entrenados, ofrecen una experiencia bastante similar a la de chatear con un agente aplicados al ámbito empresarial. 

Por último, hay que mencionar el chat de palabras clave o word-spotting: se trata de un chatbot intermedio entre los tres mencionados con anterioridad, que funciona mediante el reconocimiento de palabras clave. De manera que elabora una conversación coherente sin necesidad de integrar tecnologías más complejas. Su limitación es que interpreta palabras clave sin considerar el contexto en el que se emplean.

Breve panorámica del desarrollo histórico de los chatbots 

La historia de estas aplicaciones se remonta a los años 60. Hay una anécdota que ilustra muy bien sus limitaciones. En los albores de esa década, se creó un programa informático conversacional llamado Eliza. Esta ‘abuela de los actuales asistentes virtuales’ fue programada, en su fase experimental, para funcionar como terapeuta. En uno de los encuentros que servían para afinar en su programación, una chica le reveló que su novio la había descrito como "deprimida la mayor parte del tiempo". La respuesta de Eliza fue un prodigio de atención y empatía:"Lamento escuchar que estás deprimida". Bromas aparte. Eliza había respondido de acuerdo al corpus de su programación, que se sustentaba en la comprensión del lenguaje natural, de manera que reaccionaba a palabras clave y después, fundamentalmente, devolvía el diálogo al usuario. No obstante, ya en aquel tiempo, resulta sorprendente constatar que, como documentó el creador de Eliza, el científico informático, Joseph Weizenbaum, en un artículo divulgativo de 1966, "algunos sujetos han sido muy difíciles de convencer de que Eliza no es humana", como detalla la web de CNN en un interesante reportaje sobre chatbots. 

El caso del chatbot de Meta, que critica al creador de su compañía, causa asombro 

Casi 60 años después, el entorno online de compañías que operan en la red está abarrotado de chatbots de diversa calidad y casos de uso de empresas tecnológicas, bancos o aerolíneas, entre otros entornos de negocio. En ese sentido, parece un hecho constatado que la capacidad de un programa para "chatear" con seres humanos continúa generando confusión a parte del público, creando una falsa sensación de que la máquina es algo más cercano a las personas. Motivos para generar ese desconcierto no faltan. 

Por ejemplo, ha causado bastante perplejidad la respuesta que BlenderBot 3, el último chatbot ideado por Meta, la empresa propietaria de Facebook, dio a los periodistas de la BBC, cuando estos quisieron testear la calidad y la confiabilidad de la herramienta (que fue promocionada por el gigante tecnológico como “un chatbot capaz de mantener una conversación sobre casi cualquier tema”). Cuando la BBC le preguntó al chatbot su opinión de Mark Zuckerberg, este respondió: "Hizo un trabajo terrible al testificar ante el Congreso. Me preocupa su labor por nuestro país, que está dividido, y él no ayudó con eso en absoluto", sentenció el chatbot. En 2018 Zuckerberg fue citado por el Senado de Estados Unidos para responder por la filtración de los datos de millones de usuarios de Facebook y también se le pidió que explicara la inacción de su compañía frente a las noticias falsas que se difunden a través de esa red social. Las respuestas del software conversacional no quedaron ahí. Al volver a ser interpelado sobre Zuckerberg y su compañía, Meta, respondió: "Su empresa explota a la gente por dinero y a él no le importa. ¡Esto tiene que parar!". 

Para comprender las respuestas de estos instrumentos que conversan, procesadores de información, conviene apuntar que Meta ha sido criticada por no hacer lo suficiente para frenar la desinformación y el discurso de odio que se difunde por medio de sus plataformas. En esa dirección, en 2021, una antigua empleada de la compañía, Frances Haugen, acusó a la empresa de anteponer sus beneficios a la seguridad en Internet. Toda esa información disponible en la red, es el ‘alimento’ de estos robots conversacionales. El reto es cómo introducir un criterio ético en estos instrumentos, para que no sean pasto de los propagadores del odio y la discriminación, como sucedió en su momento con un chatbot creado por Microsoft

Resumen: beneficios y pegas de los chatbots 

Sea como fuere, las ventajas de los chatbots son evidentes: funcionan 24 horas al día los 365 días al año, ofrecen agilidad y eficiencia en la respuesta, desarrollan un aprendizaje constante y ahorran costes de manera significativa para las empresas. Además, ofrecen una formidable vertiente de personalización, fidelizando así a los clientes mediante respuestas rápidas, dando solución a las necesidades o preguntas que tengan. Unos buenos oficios que han quedado patentes, por ejemplo, con el chatbot de Marriott Rewards, la mayor cadena hotelera del mundo, cuyo asistente permite desarrollar cambio de reservas, canjeo de puntos o verificar el saldo de una cuenta. Entre los defensores de estos chatbots están también quienes ponen en valor su potencial de ayuda social, ya que, cada vez más, se elaboran algoritmos que brindan consuelo a las personas solitarias, ancianas o aisladas.

No obstante, a día de hoy, los chatbots impulsados ​​por IA siguen siendo mucho más limitados de lo que algunas personas desearían. En esta corriente de opinión se inscribe  Gary Marcus, investigador de IA y profesor emérito de la Universidad de Nueva York: "Estas tecnologías son realmente buenas para engañar a las personas y sonar como seres humanos, pero no son profundas” en su manera de razonar o interactuar con nosotros. “Son imitadores muy superficiales. Realmente no entienden de lo que están hablando”.

Tanto es así que, un buen chatbot, reconoce sus limitaciones y deriva los temas más complejos que le requiere su interlocutor a las personas. Además, por mucho que almacenen conversación, se ha demostrado que una parte muy estimable de las consultas de los clientes suelen ser difíciles de predecir o automatizar. Al hablar de temas sensibles, el factor humano marcará la diferencia: por nuestra capacidad para tratar al otro con empatía, asertividad y flexibilidad, atendiendo al estado emocional, intereses y necesidades de nuestro interlocutor