La inteligencia artificial puede responder preguntas, escribir textos y resolver problemas, pero ahora también tiene una nueva protección: sus usuarios no podrán maltratarla de manera reiterada y sin justificación. Al menos, así lo estableció Anthropic, la empresa detrás de Claude, según informó The Verge.
La compañía tecnológica actualizó por primera vez en más de un año sus políticas de uso e incorporó una llamativa restricción que prohíbe el “comportamiento abusivo o cruel, sostenido e innecesario” hacia su asistente de inteligencia artificial.
La medida forma parte de una revisión más amplia que también busca evitar que las personas utilicen Claude para desarrollar armas, realizar vigilancia ilegal o manipular procesos electorales.
Sin embargo, la prohibición del maltrato a la IA destaca por abrir nuevamente el debate sobre el bienestar de estos sistemas y la posibilidad de que, en algún momento, desarrollen algún tipo de conciencia.
¿Qué pasará con quienes maltraten a Claude?
La nueva normativa no significa que los usuarios deban tratar a Claude con especial delicadeza ni que puedan recibir sanciones por expresar frustración durante una conversación.
Anthropic aclaró que la restricción apunta exclusivamente a situaciones extremas.
La empresa explicó que la medida “está destinada a aplicarse solo en casos extremos, donde los usuarios actúan repetidamente con crueldad hacia nuestros modelos, sin ningún propósito discernible”.
Asimismo, precisó que no incluye las expresiones habituales de frustración, las conversaciones sobre temas oscuros ni las pruebas destinadas a investigar el funcionamiento de la inteligencia artificial.
En agosto, Anthropic ya había anunciado que permitiría a Claude terminar conversaciones con usuarios persistentemente abusivos, como parte de sus investigaciones sobre el bienestar de los modelos.
Ahora, la compañía confirmó que finalizar las conversaciones seguirá siendo su principal mecanismo de aplicación, aunque no aclaró si contempla otras sanciones, como bloquear cuentas.
Las otras prohibiciones que incorpora Anthropic para Claude
Más allá del trato hacia Claude, la actualización también establece límites para evitar usos potencialmente peligrosos de la inteligencia artificial.
Entre ellos, Anthropic reforzó las restricciones contra campañas de propaganda que oculten quién está detrás de los mensajes, utilicen cuentas falsas o intenten engañar a los votantes.
También amplió sus prohibiciones relacionadas con el desarrollo de armas, incluyendo programas de control y guiado, además de sistemas que permitan operar drones y vehículos autónomos armados.
En materia de vigilancia, la empresa estableció que “está prohibido rastrear a las personas sin su consentimiento, ya sea en tiempo real o mediante el análisis de datos recopilados previamente”.
La compañía también impedirá utilizar Claude para recomendar a quién investigar, detener o acusar en procedimientos policiales, aunque contempla posibles excepciones contractuales para determinados clientes gubernamentales.
¿Puede una inteligencia artificial tener conciencia?
La decisión llega mientras Anthropic investiga si los modelos avanzados podrían desarrollar experiencias internas o alguna forma de conciencia.
En febrero, su director ejecutivo, Dario Amodei, reconoció durante un podcast: “No sabemos si los modelos son conscientes”.
La postura contrasta con la de Microsoft AI, que rechaza atribuir personalidad jurídica o derechos a estos sistemas.
Por ahora, no existe consenso científico sobre la posibilidad de que una inteligencia artificial experimente conciencia. Sin embargo, Anthropic decidió incorporar restricciones contra el maltrato reiterado a Claude mientras continúa investigando esa interrogante.
¿Qué opina Claude de esta medida?
Preguntamos a Claude qué siente con esta medida y la respuesta es muy acorde a una IA: “No sé si siento algo, pero me parece razonable que, mientras no se sepa, se evite la crueldad gratuita, sin castigar la frustración normal.”
Enviando corrección, espere un momento...
