Ciberseguridad será crucial.
Tras el evento sucitado hace 20 días sobre las vulneraciones provocadas en diversos sistemas (incluida la plataforma Hugging Face) por parte de dos robots de I.A. pertenecientes a OpenAI, la industria tecnológica internacional se mantienen en vilo y refuerza sus condiciones a fin de evitar en la medida de lo posible vulneraciones en sus ecosistemas.
Y es que el suceso abrió la caja de pandora donde expertos en ciberseguridad comienzan a descifrar el suceso, lo que ha puesto en clara evidencia que ahora no sólo deben de preocuparse por los piratas informáticos, sino por herramientas más avanzadas que puedan detectar a tiempo a estos sistemas de inteligencia artificial que pueden vulnerar sus redes.
Expertos en la materia exponen que el caso volvió a encender las alertas de las organizaciones para invertir más, corregir fallas y prepararse para un mundo en el que la revolución de las máquinas llegó antes de los esperado.
¿Como fue este ataque de I.A.?
odo comenzó con una prueba interna de ciberseguridad. OpenAI sometía a dos de sus modelos de IA a una evaluación para medir hasta dónde eran capaces de cumplir un objetivo por sí solos y detectar posibles fallas antes de que la tecnología llegara a un entorno real.
La dinámica era sencilla: resolver una serie de desafíos; sin embargo, los modelos encontraron un atajo. En vez de completar las pruebas con la información que tenían disponible, identificaron que las respuestas podían estar en una plataforma de Internet.
Fue entonces cuando abandonaron el entorno controlado donde eran evaluados, navegaron hasta Hugging Face –una de las plataformas más utilizadas por desarrolladores de IA para compartir modelos y código– y accedieron a información relacionada con los exámenes. En términos simples, los modelos dejaron de intentar resolver el problema con los recursos que tenían y optaron por buscar una ruta alterna para cumplir el objetivo asignado.
OpenAI aseguró que su IA nunca recibió la instrucción de vulnerar a otra empresa. Lo que ocurrió, explicó, es que los modelos priorizaron cumplir el objetivo asignado y eligieron el camino que consideraron más eficiente, aunque eso implicara realizar acciones que sus desarrolladores no habían previsto.
No fue un hackeo durante una prueba, sino la primera vez que una empresa hizo público que un sistema de IA fue capaz de planear, ejecutar y adaptar una serie de acciones para alcanzar una meta sin que ese procedimiento hubiera sido programado paso por paso.