Alphabet, OpenAI, Roblox y Discord se unen para recaudar más de U$S 27 millones y desarrollar herramientas de IA de código abierto para combatir el abuso infantil en Internet.
En un esfuerzo conjunto por enfrentar uno de los mayores desafíos de la era digital, un consorcio formado por Alphabet Inc., OpenAI, Roblox Corp. y Discord ha recaudado más de U$S 27 millones para financiar la creación de herramientas robustas de seguridad en línea, denominadas Robust Open Online Safety Tools (ROOST).
Esta iniciativa, anunciada el lunes durante la Cumbre de Acción sobre Inteligencia Artificial en París, tiene como objetivo acelerar la innovación en la protección de los niños en la red.
Según explicó Eric Schmidt, socio fundador de la organización y exdirector ejecutivo de Google, “ROOST’s collaborative, open-source approach will foster innovation and make essential infrastructure more transparent, accessible, and inclusive, with the goal of creating a safer internet for everyone.”
Con estas palabras, Schmidt destacó la urgencia de contar con tecnologías avanzadas para identificar, revisar y reportar material de abuso sexual infantil, un problema que se ha intensificado con el aumento del tiempo que los niños pasan en línea.
El consorcio ha decidido desarrollar estas herramientas aprovechando el poder de la inteligencia artificial. La plataforma utilizará algoritmos capaces de detectar de manera automática contenidos inapropiados y, de forma colaborativa y de código abierto, se espera que la comunidad global contribuya a perfeccionar estas soluciones.
Expertos en seguridad infantil, tecnología de código abierto y lucha contra el extremismo violento están aportando su experiencia para asegurar que la infraestructura resultante sea eficaz y accesible para todos.
Los datos muestran que los informes de sospecha de explotación infantil han aumentado un 12% entre 2022 y 2023, según la información más reciente del National Center for Missing and Exploited Children.
Este incremento se atribuye tanto a la mejora en las herramientas de detección como al incremento en el tiempo que los niños pasan en línea. En particular, los reportes relacionados con la compañía de videojuegos Roblox han aumentado un 348%, mientras que los de la aplicación de chat Discord se han duplicado, registrando un 100% de aumento.
La estrategia de ROOST se basa en la colaboración abierta, lo que significa que cualquier desarrollador o experto podrá acceder a estas herramientas y contribuir a su mejora, sin pagar costos prohibitivos. Este enfoque no solo fomenta la innovación, sino que también promueve la transparencia y la inclusión, pilares fundamentales para crear un entorno digital seguro y confiable.
En un mundo donde la seguridad en línea es cada vez más crítica, la iniciativa ROOST podría convertirse en un referente para gobiernos, empresas y organizaciones no gubernamentales que buscan proteger a los más vulnerables.
La colaboración entre gigantes tecnológicos demuestra que, cuando se unen fuerzas, es posible crear soluciones de gran alcance y eficacia para enfrentar desafíos globales.
Con este ambicioso proyecto, el consorcio se posiciona a la vanguardia de la lucha contra el abuso infantil en línea, estableciendo un nuevo estándar en la protección digital y marcando un paso decisivo hacia un Internet más seguro para todos.