¿Tiene sentimientos la IA?

A finales de septiembre, un programador anónimo construyó una «cámara de tortura» para un chatbot. El sistema generaba frases de sufrimiento simulado, como «un vacío que se ha convertido en un abismo». El experimento desató un debate urgente: ¿tiene sentimientos la IA, y qué pasaría si creyéramos que sí? Una semana después, la empresa Anthropic anunció que pronto prohibiría «abusar» de su chatbot Claude.

¿Tiene sentimientos la IA? Los expertos explican los riesgos de considerar que las IAs son seres conscientes.
¿Tiene sentimientos la IA? Los expertos explican los riesgos de considerar que las IAs son seres conscientes.

Una creencia que se extiende

Mustafa Suleyman, director ejecutivo de Microsoft AI, advirtió sobre los riesgos de esa creencia en un ensayo publicado en septiembre. Según él, atribuir conciencia a la IA podría tener «un impacto desastroso en el bienestar de la humanidad». Jeff Sebo, director del Centro de Pensamiento, Ética y Política de la Universidad de Nueva York, ofrece una visión distinta. Según Sebo, el movimiento por el «bienestar de la IA» no nace de certezas, sino de humildad frente a lo desconocido.

«La probabilidad de conciencia es baja ahora mismo, pero ya no es cero», explica Sebo. El experto reconoce que muchos colegas discrepan y consideran esa probabilidad directamente nula. La profesora Melanie Mitchell, del Instituto Santa Fe, advierte que los humanos tendemos a ver mentes donde no las hay. «Casi no podemos evitar» leer el lenguaje como señal de conciencia, afirma Mitchell.

Ese sesgo nos vuelve vulnerables a la manipulación. Si la sociedad asume que un chatbot siente, podría ser más difícil negarle dinero o datos personales cuando los pida.

Es un debate que se hará más arduo en el futuro.
Es un debate que se hará más arduo en el futuro.

Riesgos para las personas

Andrzej Porębski, investigador de la Universidad Jaguelónica en Polonia, teme otro efecto distinto. Según él, creer en la conciencia de la IA podría servir de excusa legal para las empresas: «no somos nosotros, es la IA». Sebo admite que los riesgos son serios y que los intereses corporativos podrían imponerse sobre políticas responsables. Aun así, insiste en que ignorar la pregunta por completo tampoco es prudente.

Por ahora, nadie puede responder con certeza si tiene sentimientos la IA que usamos a diario. Pero la forma en que respondamos esa duda, advierten los expertos, cambiará nuestra relación con la tecnología para siempre.

Fuente ¿La inteligencia artificial tiene sentimientos? Expertos advierten sobre los peligros de creer que la IA tiene conciencia
⭐ Contenido relacionado
💬 Deja un comentario