Se cube que la gente se está volviendo demasiado amigable con los chatbots.
Algunos usuarios están intercambiando un gran volumen de mensajes con estas herramientas impulsadas por inteligencia synthetic (IA) y en algunos casos atribuyen cualidades humanas a los chatbots, informó Bloomberg el viernes (28 de junio).
“Una de las preocupaciones éticas es que, si bien los usuarios pueden sentirse escuchados, comprendidos y amados, este vínculo emocional en realidad puede exacerbar su aislamiento”, dijo en el informe Giadi Pistilli, principal especialista en ética de la startup de inteligencia synthetic Hugging Face.
Según el informe, varias empresas de inteligencia synthetic están añadiendo funciones que pueden hacer que sus chatbots parezcan más humanos. Por ejemplo, Anthropic dijo que quiere que las interacciones de los usuarios con su modelo de inteligencia synthetic Claude sean como las que tienen con un compañero de trabajo agradable; Google está trabajando en chatbots que sean más entretenidos; OpenAI se está preparando para lanzar una versión de GPT-4 que tiene una capacidad de voz más fluida; y Character.ai permite a los usuarios diseñar una personalidad para un chatbot, como una basada en un personaje de videojuego.
Según el informe, estas cualidades pueden hacer que la gente siga chateando con los bots. Character.ai afirmó que atiende 20.000 consultas por segundo y que los usuarios interactúan con su servicio durante un promedio de dos horas al día.
En algunos otros ejemplos de cómo las personas interactúan con estas herramientas de inteligencia synthetic, el informe cube que hay foros en línea que comparten consejos sobre cómo superar los filtros de contenido; que los usuarios se han quejado ante las empresas de IA cuando creían que la personalidad del chatbot había cambiado; y que algunos chatbots fomentan la participación generando preguntas al last de cada respuesta.
Cuando OpenAI anunció el martes (25 de junio) que retrasaría el lanzamiento del “Modo de voz” para su último modelo de IA, la empresa dijo: “Por ejemplo, estamos mejorando la capacidad del modelo para detectar y rechazar determinados contenidos. También estamos trabajando para mejorar la experiencia del usuario y preparar nuestra infraestructura para escalar a millones de usuarios manteniendo al mismo tiempo las respuestas en tiempo actual”.
Cuando Anthropic presentó su último chatbot el 20 de junio, la compañía notó mejoras en la capacidad del chatbot para captar “matices, humor e instrucciones complejas” y lo describió como “excepcional a la hora de escribir contenido de alta calidad con un tono pure e identificable”.
Character.ai se ha hecho conocido por utilizar grandes modelos de lenguaje (LLM) para desarrollar chatbots que pueden conversar al estilo de diferentes personas.
Para conocer toda la cobertura de PYMNTS AI, suscríbase al diario Boletín de IA.
