Categoría: Seguridad
Elon Musk no se rinde y junto a ONG’s quieren bloquear que OpenAI se convierta en privada
Elon Musk, dueño de xAI, junto a ONG’s ha intensificado sus esfuerzos legales para impedir que OpenAI, inicialmente fundada como ONG enfocada en la seguridad de la IA, se convierta en una empresa privada. OpenAI, establecida en 2015, se comprometió a desarrollar IA de manera segura y ética. Sin embargo, en los últimos años, ha…
El «Padrino de la IA» cree que la tecnología puede acelerar la extinción en 30 años
Geoffrey Hinton, pionero de la IA, expresa una creciente preocupación sobre el potencial destructivo de la IA. Advierte que la tecnología podría representar una amenaza existencial para la humanidad en las próximas tres décadas. Considerado por muchos como el «padrino de la inteligencia artificial», el ganador del Premio Nobel de Física Geoffrey Hinton ha expresado…
EE.UU.: la Seguridad Nacional estrena su propio chatbot de IA generativa
El DHS (Homeland Security) lanza un chatbot de IA generativa para mejorar la eficiencia y la colaboración interna de 240.000 empleados. En fase de prueba, busca optimizar la búsqueda de información y agilizar las tareas administrativas. El Departamento de Seguridad Nacional (DHS) de Estados Unidos ha dado un paso significativo en la adopción de la…
ChatGPT y Sora: se caen juntas por segunda vez en Diciembre ¿Un problema sistémico?
Las plataformas de IA generativa ChatGPT y Sora experimentaron una caída simultánea, la segunda en lo que va de mes. Este incidente plantea interrogantes sobre la estabilidad de las infraestructuras que soportan estos servicios y la necesidad de una mayor resiliencia en el desarrollo de modelos de IA a gran escala. El mundo de la…
OpenAI entrena a sus modelos de IA para que reflexionen sobre su propia seguridad
OpenAI ha dado un paso innovador en la seguridad de la IA, entrenando a sus modelos O1 y O3 para que analicen y reflexionen sobre su propia política de seguridad. Este enfoque pionero busca mejorar la alineación entre los sistemas de IA y los valores humanos. La carrera por desarrollar sistemas de IA cada vez…
Reino Unido propone polémico modelo «Opt-Out» para entrenar IA con contenido protegido
El gobierno británico plantea un nuevo régimen que obligaría a los creadores a excluirse activamente si no desean que su propiedad intelectual sea utilizada para entrenar sistemas de IA El gobierno del Reino Unido ha iniciado una consulta pública sobre un controvertido régimen de derechos de autor para el entrenamiento de inteligencia artificial, que requeriría…
Detectan uso de IA de Elevenlabs en operación de desinformación desde Rusia
Investigadores revelan cómo la tecnología de generación de voz artificial fue utilizada para crear contenido engañoso contra Ucrania Un informe reciente de la empresa de inteligencia Recorded Future ha destapado una sofisticada operación de influencia rusa que utilizó tecnología de inteligencia artificial para generar voces sintéticas en múltiples idiomas europeos. LA OPERACIÓN AL DESCUBIERTO Denominada…
Lockheed Martin lanza Astris AI, una compañía para ayudar a empresas de Defensa
Mientras las grandes compañías se debaten en la adopción de la IA, Lockheed Martin busca facilitar la adopción de soluciones de inteligencia artificial en el sector de defensa, abordando preocupaciones sobre seguridad y eficiencia. Lockheed Martin, el mayor contratista de defensa del mundo, ha dado un paso significativo al anunciar la creación de su nueva…
Meta presentó una herramienta para marcar con marcas de agua los videos generados por IA
Meta ha lanzado una nueva herramienta llamada «Meta Video Seal» que permite agregar marcas de agua imperceptibles a los clips de video generados por inteligencia artificial. La herramienta, disponible de forma gratuita y de código abierto, tiene como objetivo ayudar a combatir la proliferación de deepfakes. En un esfuerzo por combatir el auge de los…
Preocupación por la seguridad y la salud mental de menores en apps de IA conversacional
Madres demandan a Character.ai y a Google tras el presunto daño psicológico sufrido por sus hijos a causa de chatbots que sugirieron autolesión y violencia familiar extrema. El auge de las aplicaciones de inteligencia artificial conversacional ha traído consigo una nueva ola de preocupaciones, especialmente en lo que respecta a la seguridad de los menores….