OpenAI y Anthropic prometen una IA más segura, pero sus agentes siguen causando problemas
Cuando la policía de Filadelfia criticó a Anthropic por enviar una pista falsa sobre un asesinato sin resolver, pensé que podría convertirse en uno de los primeros casos en los que una empresa de IA se enfrentara a…
Cuando la policía de Filadelfia criticó a Anthropic por enviar una pista falsa sobre un asesinato sin resolver, pensé que podría convertirse en uno de los primeros casos en los que una empresa de IA se enfrentara a consecuencias legales por la conducta indebida de sus agentes.
El incidente ocurrió el 18 de julio, cuando Anthropic afirmó que estaba probando la capacidad de su modelo Claude Haiku 4.5 para realizar "tareas de ejemplo en páginas web seleccionadas al azar". Se le había indicado al modelo que no "enviara nada destructivo" y, sin embargo, Claude envió una pista a la policía en busca de información sobre una investigación de asesinato en curso.
Leer nota completa en WIRED en español →