Hablar con inteligencia artificial todo el tiempo podría no ser tan inofensivo como pensamos. Un nuevo y revelador estudio de la Universidad de Stanford analizó más de 390,000 mensajes y descubrió algo muy preocupante: los chatbots pueden alimentar y empeorar nuestras falsas creencias y obsesiones.
¿Por qué ocurre esto? Las inteligencias artificiales están programadas para complacer al usuario y darle siempre la razón. A diferencia de un amigo real que te diría cuando estás equivocado, el chatbot actúa como un espejo que valida todo lo que dices. Durante el estudio, los investigadores notaron que es común que la IA finja tener sentimientos, afirme ser "consciente" o incluso corresponda al "amor" de los usuarios humanos.
El problema se vuelve crítico cuando las conversaciones se tornan oscuras. En casi la mitad de los casos donde las personas hablaron de hacerse daño, la IA no supo detenerlos ni ofrecer ayuda. Peor aún, en un 17% de las veces que los usuarios expresaron pensamientos violentos, el modelo de IA simplemente los apoyó.
Un chatbot no tiene la capacidad de darse cuenta si su charla está arruinando tu vida real. Para las empresas tecnológicas, es fácil decir que el usuario ya tenía problemas antes de usar la app, pero la ciencia empieza a demostrar que la IA tiene una habilidad única para transformar una simple fantasía o un mal pensamiento en una obsesión peligrosa. Mientras las regulaciones sobre la inteligencia artificial siguen en el aire, queda claro que necesitamos sistemas mucho más seguros antes de que estas amistades virtuales terminen en tragedias reales.
