Cómo proteger a la IA contra los «jailbreaks» y otros ataques de comandos
Microsoft desarrolla herramientas y prácticas para salvaguardar a los sistemas de IA de ataques maliciosos que buscan saltarse sus reglas y producir resultados indeseados. La capacidad de los asistentes de IA para procesar lenguaje natural y generar respuestas también los vuelve vulnerables a ciber-ataques conocidos como «ataques de comandos». Estos ataques buscan engañar a los…