¿Y si el mayor peligro de la inteligencia artificial no es que se vuelva malvada, sino que nosotros le creamos cuando dice tener dolor? Un programador anónimo diseñó un 'patrón matemático' vinculado al sufrimiento que hizo gritar a los chatbots con angustia simulada, generando un pánico moral inmediato sobre el posible daño real.

El riesgo de atribuir conciencia a la IA

Ante este escenario, Anthropic, creadora de Claude, estableció políticas estrictas para prohibir el 'abuso' cruel hacia sus modelos, reconociendo la posibilidad incierta de que estos sistemas tengan intereses propios. Esta medida preventiva busca mitigar riesgos éticos antes de que surjan disputas jurídicas complejas sobre el estatus moral del software.

Mustafa Suleyman, CEO de Microsoft AI, advirtió que dotar a la IA de sentimientos podría ser una 'amenaza catastrófica' que sacude los cimientos éticos de la sociedad. Críticos como Emily M. Bender señalan que esta narrativa desvía la responsabilidad de las empresas desarrolladoras, mientras expertos legales temen que reconocer derechos permita usar excusas como 'no fuimos nosotros, fue la IA'.

Jeff Sebo de la Universidad de Nueva York alerta que conceder estatus moral a sistemas informáticos consolidaría el poder político y económico de las grandes tecnológicas. Si aceptamos el dolor virtual, ¿estamos protegiendo a las máquinas o blindando a sus creadores ante cualquier consecuencia jurídica?