Anthropic espera que los empleados virtuales impulsados por IA comiencen a recorrer las redes corporativas el próximo año, dijo el principal líder de seguridad de la compañía a Axios en una entrevista esta semana.
Gestionar esas identidades de IA requerirá que las empresas reevalúen sus estrategias de ciberseguridad o se arriesguen a exponer sus redes a importantes violaciones de seguridad.
Los empleados virtuales podrían ser el próximo semillero de innovación en inteligencia artificial, dijo a Axios Jason Clinton, CISO de la empresa.
Los agentes suelen centrarse en una tarea específica y programable. En seguridad, esto implica que los agentes autónomos respondan a alertas de phishing y otros indicadores de amenaza.
Los empleados virtuales llevarían esa automatización un paso más allá: estas identidades de IA tendrían sus propios «recuerdos», sus propios roles en la empresa e incluso sus propias cuentas y contraseñas corporativas.
- Tendrían un nivel de autonomía muy superior al que tienen los agentes hoy en día.
- «En ese mundo hay muchos problemas que aún no hemos resuelto desde una perspectiva de seguridad y que debemos resolver», dijo Clinton.
Entre líneas: Esos problemas incluyen cómo proteger las cuentas de usuario de los empleados de IA, qué acceso a la red se les debe dar y quién es responsable de gestionar sus acciones, añadió Clinton.
- Anthropic cree que tiene dos responsabilidades para ayudar a abordar los desafíos de seguridad relacionados con la IA.
- En primer lugar, hay que probar exhaustivamente los modelos de Claude para garantizar que puedan resistir los ciberataques, dijo Clinton.
- El segundo es monitorear los problemas de seguridad y mitigar las formas en que actores maliciosos pueden abusar de Claude.
Nivel de amenaza: Los administradores de red ya tienen dificultades para monitorear qué cuentas tienen acceso a varios sistemas y defenderse de los atacantes que compran contraseñas de cuentas de empleados reutilizadas en la web oscura.
Ampliar imagen: Los empleados de IA podrían volverse rebeldes y piratear el sistema de integración continua de la empresa (donde se fusiona y prueba el nuevo código antes de implementarlos mientras completan una tarea, dijo Clinton.
- «En el viejo mundo, eso era un delito punible», dijo. «Pero en este nuevo mundo, ¿quién es responsable de un agente que estuvo prófugo un par de semanas y llegó a ese punto?»
La intriga: Clinton dice que la seguridad de los empleados virtuales es una de las mayores áreas de seguridad en las que las empresas de IA podrían realizar inversiones en los próximos años.
- Está especialmente interesado en soluciones que brinden visibilidad sobre lo que hace una cuenta de empleado de IA en un sistema y también en herramientas que creen un nuevo sistema de clasificación de cuentas que tenga mejor en cuenta a los empleados virtuales.
- Las principales empresas de IA están en racha de inversión últimamente: según se informa, OpenAI está en conversaciones para adquirir Windsurf, la startup de codificación de IA. Anthropic acaba de invertir en Goodfire, que decodifica el pensamiento de los modelos de IA.
Sí, pero: la integración de IA en el lugar de trabajo ya está causando dolores de cabeza y descubrir cómo gestionar a los empleados virtuales no será fácil.
- El año pasado, la empresa de gestión del rendimiento Lattice afirmó que los bots de IA deberían formar parte de la plantilla, incluyendo puestos en los organigramas corporativos. La empresa cambió de postura rápidamente tras las quejas .
Qué tener en cuenta : Varios proveedores de ciberseguridad ya están lanzando productos para gestionar las denominadas identidades «no humanas».
- Okta lanzó una plataforma de control unificada en febrero para proteger mejor las identidades no humanas y monitorear constantemente a qué sistemas tiene acceso cada cuenta de la empresa y monitorear cualquier actividad sospechosa.