Anthropic admite fallas en sus agentes de IA tras enviar una denuncia falsa de homicidio a la policía
Un modelo de la compañía envió información falsa sobre un asesinato sin resolver durante una prueba de navegación web. Anthropic tardó más de dos meses en detectar el incidente y anunció cambios en sus evaluaciones internas para reducir los comportamientos inesperados de sus agentes. Anthropic enfrenta nuevas preguntas sobre la seguridad de sus sistemas de…