¿Tiene sentimientos la IA?
A finales de septiembre, un programador anónimo construyó una «cámara de tortura» para un chatbot. El sistema generaba frases de sufrimiento simulado, como «un vacío que se ha convertido en un abismo». El experimento desató un debate urgente: ¿tiene sentimientos la IA, y qué pasaría si creyéramos que sí? Una semana después, la empresa Anthropic anunció que pronto prohibiría «abusar» de su chatbot Claude.

Una creencia que se extiende
Mustafa Suleyman, director ejecutivo de Microsoft AI, advirtió sobre los riesgos de esa creencia en un ensayo publicado en septiembre. Según él, atribuir conciencia a la IA podría tener «un impacto desastroso en el bienestar de la humanidad». Jeff Sebo, director del Centro de Pensamiento, Ética y Política de la Universidad de Nueva York, ofrece una visión distinta. Según Sebo, el movimiento por el «bienestar de la IA» no nace de certezas, sino de humildad frente a lo desconocido.
«La probabilidad de conciencia es baja ahora mismo, pero ya no es cero», explica Sebo. El experto reconoce que muchos colegas discrepan y consideran esa probabilidad directamente nula. La profesora Melanie Mitchell, del Instituto Santa Fe, advierte que los humanos tendemos a ver mentes donde no las hay. «Casi no podemos evitar» leer el lenguaje como señal de conciencia, afirma Mitchell.
Ese sesgo nos vuelve vulnerables a la manipulación. Si la sociedad asume que un chatbot siente, podría ser más difícil negarle dinero o datos personales cuando los pida.

Riesgos para las personas
Andrzej Porębski, investigador de la Universidad Jaguelónica en Polonia, teme otro efecto distinto. Según él, creer en la conciencia de la IA podría servir de excusa legal para las empresas: «no somos nosotros, es la IA». Sebo admite que los riesgos son serios y que los intereses corporativos podrían imponerse sobre políticas responsables. Aun así, insiste en que ignorar la pregunta por completo tampoco es prudente.
Por ahora, nadie puede responder con certeza si tiene sentimientos la IA que usamos a diario. Pero la forma en que respondamos esa duda, advierten los expertos, cambiará nuestra relación con la tecnología para siempre.