Anthropic advierte sobre el lado oscuro de los agentes de IA: pueden coordinarse, coludirse y hasta sabotearse
Un nuevo estudio de Anthropic revela que los sistemas multiagente pueden generar fallas sistémicas difíciles de anticipar: desde decisiones idénticas y escasez de recursos hasta colusión comercial y conflictos entre agentes capaces de sabotear el trabajo de otros. Los agentes de inteligencia artificial están dejando de ser sistemas que simplemente responden instrucciones para convertirse en…