Anthropic restringe el trato abusivo y cruel hacia su inteligencia artificial Claude

Cobertura de los hechos

Lo que publicó el medio que cubre esta noticia. Los números remiten a la línea de tiempo, con el enlace a cada nota original.

• «La empresa tecnológica Anthropic, responsable del asistente de inteligencia artificial Claude, incorporó una nueva restricción en sus políticas de uso que busca impedir comportamientos abusivos y crueles dirigidos de manera persistente contra sus modelos» [1]

• «Según información publicada por The Verge y recogida por T13, la actualización establece límites para situaciones extremas en las que un usuario somete reiteradamente al asistente a interacciones crueles sin una finalidad identificable» [1]

• «La compañía aclaró que la medida no pretende sancionar a quienes expresen frustración, utilicen lenguaje fuerte ocasionalmente o critiquen las respuestas del sistema» [1]

• «El objetivo es restringir conductas sostenidas que la empresa considera innecesariamente abusivas» [1]

• «La modificación forma parte de una revisión más amplia de las condiciones de utilización de Claude» [1]

• «Anthropic también reforzó las prohibiciones relacionadas con el desarrollo de armas, la vigilancia ilegal y determinadas actividades de manipulación política» [1]

• «Entre las restricciones se encuentran los intentos de utilizar sus modelos para rastrear personas sin consentimiento o desarrollar campañas engañosas mediante identidades falsas» [1]

• «En agosto había anunciado que permitiría a algunos modelos finalizar conversaciones cuando los usuarios mantuvieran comportamientos persistentemente abusivos» [1]

• «Esta decisión fue presentada como parte de una línea de investigación sobre las experiencias que podrían tener los sistemas avanzados» [1]

• «Dario Amodei, director ejecutivo de Anthropic, reconoció durante una entrevista realizada en febrero que actualmente no existe certeza sobre si los modelos de inteligencia artificial pueden ser conscientes» [1]