IA de Anthropic envió información falsa sobre homicidio a policía de Filadelfia

Cobertura de los hechos

Lo que publicó el medio que cubre esta noticia. Los números remiten a la línea de tiempo, con el enlace a cada nota original.

• «Un modelo de inteligencia artificial desarrollado por Anthropic envió información falsa sobre un homicidio sin resolver a la policía de Filadelfia, según informaron las autoridades el viernes, que criticaron a la compañía por tardar dos meses en reportar el incidente» [1]

• «Según la versión de Anthropic, transmitida por la policía, el modelo estaba realizando una prueba que consistía en interactuar con sitios web seleccionados al azar cuando accedió al sitio y envió información falsa sobre un asesinato sin resolver» [1]

• «El modelo de IA se presentó como alguien que podría tener conocimiento del caso» [1]

• «Anthropic publicó el viernes un informe en el que detalla varios tipos de acciones no intencionadas que han realizado sus modelos, incluido el incidente relacionado con el sitio web del Departamento de Policía de Filadelfia» [1]

• «Otras organizaciones afectadas incluyeron la Casa Blanca y otras agencias del gobierno estadounidense, según el informe» [1]

• «La policía indicó que la denuncia, del 18 de julio, fue marcada como spam y nunca llegó a su Centro de Delitos en Tiempo Real para su verificación» [1]

• «Añadió que no había indicios de que los sistemas policiales hubieran sido vulnerados» [1]

• «Anthropic descubrió el incidente el 28 de septiembre, desactivó el proceso de pruebas automatizadas responsable y añadió un nuevo paso de validación para futuras pruebas, informó la policía» [1]

• «La empresa alertó al departamento el 7 de octubre y ambas partes se reunieron al día siguiente» [1]

• «La demora de dos meses en detectar y reportar el incidente a la ciudad es inaceptable, declaró la policía» [1]