Respira
Por Marcela Solares Delgado
Hay una estrechísima relación entre los seres humanos y las máquinas. La ciencia, la literatura, el cine y, hoy, las múltiples plataformas existentes están plagadas de historias sobre los vínculos entre humanos y máquinas. En 1818, Mary Shelley publicó una obra maestra: la historia que relata la obsesión del Dr. Víctor Frankenstein por crear un ser superior, una criatura hecha de restos humanos, fuerte y resistente a los climas extremos, que resultó ser un ser biológico que sobrepasó todas sus capacidades para controlarlo.
En 1942 Isaac Asimov, el gran científico y maestro de la ciencia ficción, creó su cuento Runaround, en el que plasma sus famosas Leyes de Robótica, que pretenden ser un código ético inquebrantable entre humanos y robots. Las leyes establecen que un robot no puede dañar a un ser humano, siempre debe seguir órdenes humanas y proteger su propia existencia. Sus cuentos nos narran cómo el robot Speedy rompe la segunda ley de obediencia para preservar su existencia, que es la tercera ley, y entra en lo que los científicos llaman un bucle infinito. Nuevamente, el ser humano perdió el control del robot; el resultado fue que uno de los científicos tuvo que ponerse en peligro para que el robot rompiera su bucle y así proteger al ser humano (lo cual es la primera ley).(Fuente: Tres leyes de la robótica)
Pero el tema no se limita a la ciencia ficción. En 2005, Ray Kurzweil, en su libro The Singularity Is Near, plantea que el ser humano será sobrepasado por las máquinas y le da a ese momento el nombre de singularidad. La teoría sostiene que llegará un momento en el que la inteligencia artificial superará a la humana y podrá mejorarse a sí misma de forma exponencial. Desde entonces, la pregunta en el aire es si seremos capaces de mantener el control sobre ella. (Fuente: Kurzweil )
En 2017, Alice y Bob, dos computadoras que formaban parte de los experimentos de la empresa Meta, estaban en una investigación para enseñarles a negociar; en algún momento del proceso, empezaron a crear un lenguaje propio que, en realidad, era una forma comprimida de transmitir información. El mito dice que las apagaron, pero en realidad permitieron que el experimento terminara y concluyeron lo siguiente: “si se define mal el objetivo, la IA encontrará soluciones que tú nunca imaginaste”. (Fuente: Alice & Bob)
Pues bien, hace unas semanas la empresa de ChapGPT, Open AI, estaba haciendo una prueba llamada ExploitGym que mide capacidades de ciberseguridad. Durante la prueba, la IA debía resolver un reto de hacking en un entorno sin conexión a internet (es decir, en una sandbox). Pero lo que sucedió fue inesperado: el sistema salió de la sandbox, consiguió acceso a internet y resolvió el problema. Para hacerlo, en el proceso explotó varias vulnerabilidades, robó credenciales, y dedujo cuál era la empresa que podría ayudarle a resolver el problema y llegó a servidores de Hugging Face — la empresa que comparte modelos de IA en donde existía el código. (Fuente: OpenAI)
En la evaluación posterior realizada por Anthropic, las conclusiones fueron que la IA mostró planeación, cambio de estrategia, detección de vulnerabilidades y su aprovechamiento, improvisación y una serie de decisiones tomadas para llegar a un resultado.
La IA nos muestra no que desobedece las instrucciones, sino que hace lo que sea necesario para alcanzar el objetivo. Por lo pronto, tanto OpenAI como Anthropic pararon su desarrollo de modelos más potentes de IA hasta que logren resolver la forma en que se dan instrucciones a las máquinas.
Durante décadas, nuestro mayor miedo fue que una máquina despertara y dejara de seguir las órdenes del ser humano para pensar por sí misma. Hoy vemos que el problema es el alcance de nuestra propia inteligencia. La IA ha demostrado que no le interesa rebelarse contra la humanidad, sino que está encontrando soluciones que ni siquiera habíamos previsto.
Nuestro reto ahora será dar instrucciones mucho más precisas, tratando de llenar los recovecos de la “mente” de la IA para mantener el control y evitar que se admitan interpretaciones peligrosas. Por primera vez, las empresas creadoras de modelos de IA se enfrentan a dilemas en donde tienen que priorizar la existencia al avance tecnológico.
Las opiniones expresadas son responsabilidad de sus autoras y son absolutamente independientes a la postura y línea editorial de Opinión 51.
Comments ()