Tecnología
S√°bado 24 marzo de 2018 | Publicado a las 16:04
Los peligros del r√°pido avance de la inteligencia artificial: no son los que piensas
Publicado por: Nicol√°s Sep√ļlveda
¬ŅEncontraste alg√ļn error? Av√≠sanos visitas

‚Äú¬ŅPor qu√© es tan importante que diga ‘Hola’?‚ÄĚ pregunta Joanna Hoffman. ‚ÄúHollywood‚ÄĚ contesta Steve Jobs, ‚Äúellos hicieron que las computadoras fueran algo aterrador‚ÄĚ. Joanna Hoffman duda y finalmente responde: ‚ÄúLa computadora de 2001 dec√≠a Hola y me aterraba‚ÄĚ. La escena es de la pel√≠cula Steve Jobs (2015), dirigida por Danny Boyle, y m√°s all√° de qu√© tan certera resulta la recreaci√≥n, deja claro que en 1984, a√Īo de presentaci√≥n de la Machintosh, la Inteligencia Artificial (IA) ya nos inquietaba.

Tal vez Hollywood sí ha tenido algo que ver. En 1968, Stanley Kubrick nos regala a Hal 9000, la computadora que se dejaba llevar por su instinto asesino (y aterraba a Joanna Hoffman). En 1982, los replicantes de Blade Runner se rebelan contra sus creadores. En 1984, Skynet envía al Terminator T-800 al pasado para eliminar al líder no nato de la revolución. En 1999, las máquinas tuvieron a todo el mundo preguntándose qué es la Matrix.

Blade Runner
Blade Runner

La lista se queda corta, pero sirve para recordar la idea que la cultura popular nos ha legado de la IA: b√°sicamente, que las m√°quinas se volver√°n contra nosotros. La √ļltima producci√≥n en abordar el tema con esta perspectiva es la serie Westworld, a las puertas de estrenar su esperada segunda temporada.

Mientras tanto, a este lado de la pantalla, las noticias sobre los avances de la IA aparecen cada vez con mayor frecuencia y los expertos empiezan a especular con los peligros que esto podría acarrear.

Pero a no alarmarse, porque entre los peligros no está la extinción de la humanidad. No con seguridad, en todo caso. No en lo inmediato. Al menos se puede afirmar que no hay acuerdo acerca de esto. Pero sí en que la IA avanza inexorablemente.

El futuro es hoy

En diciembre del a√Īo pasado se public√≥ un nuevo cap√≠tulo del ni√Īo mago m√°s famoso del mundo llamado Harry Potter y el retrato de lo que parec√≠a un enorme mont√≥n de cenizas. No es que J. K. Rowling ya no se preocupe de los t√≠tulos; ella ni siquiera lo escribi√≥. El autor fue una inteligencia artificial desarrollada por Botnik, una comunidad colaborativa de artistas y escritores que trabajan con m√°quinas y tecnolog√≠a para crear‚Ķ esto. Con un teclado predictivo, la IA ley√≥ todos los libros de Rowling para aprender sintaxis. El resultado es, algo inquietante.

Botnik
Botnik

Ese caso representa la cara amable de las IA. En la otra est√°n las situaciones planteadas en el reporte ‚ÄúUso malicioso de la Inteligencia Artificial: previsi√≥n, prevenci√≥n y mitigaci√≥n‚ÄĚ, publicado en febrero, desarrollado por 26 expertos de 14 instituciones, entre las que se encuentran el Instituto para el Futuro de la Humanidad de la Universidad de Oxford, el Centro para el Estudio del Riesgo Existencial de la Universidad de Cambridge y OpenAI, la compa√Ī√≠a de investigaci√≥n fundada por Elon Musk.

Considerando la tecnolog√≠a en su estado actual, el reporte predice escenarios plausibles para los pr√≥ximos cinco a√Īos. La revista digital Paste seleccion√≥ algunos ejemplos encontrados en el informe que ayudan a entender mejor de qu√© hablamos cuando hablamos de IA en el futuro inmediato:

Los sistemas de IA ya es capaz de producir imágenes indistinguibles de una fotografía. Además ya pueden categorizar imágenes con un 98% de precisión, superando la marca humana de 95%.

Los sistemas de voz sintética ha avanzado lo suficiente como para imitar voces, algo que los humanos no pueden hacer. Esto podría abrir nuevas formas de fraude.

Ser√° mucho m√°s f√°cil controlar sistemas aut√≥nomos como autos o armas. Por ejemplo, si se manipulan se√Īales o im√°genes a los que una IA reacciona (como una se√Īal de PARE en el caso de los veh√≠culos aut√≥nomos), su respuesta podr√≠a ser dirigida a un objetivo espec√≠fico. Si adem√°s varios robots son controlados por una IA central, la escala de la manipulaci√≥n puede ser mayor. Seg√ļn el informe, el peor escenario para este caso ser√≠a la manipulaci√≥n de un sistema aut√≥nomo de armas.

Las formas de estafa que ya conocemos serán cada vez más comunes y más potentes: ataques cibernéticos como el phishing podrían efectuarse a escalas mayores debido al acceso a sistemas de IA mucho más eficientes.

Delitos violentos, como el asesinato, podr√≠an ser m√°s sencillos de cometer, porque los sistemas de IA propician el anonimato y distancia psicol√≥gica. Actos que com√ļnmente requerir√≠an la presencia f√≠sica, podr√≠an ejecutarse sin acercarse jam√°s a la escena y sin necesidad siquiera de observar a la v√≠ctima. Esto podr√≠a volverse com√ļn con sistemas de armas aut√≥nomas.

En base a las vulnerabilidades detectadas por los expertos, los ataques a los sistemas de IA ser√°n cada vez m√°s recurrentes.

Pixabay (CCO)
Pixabay (CCO)

En una declaración escrita, el investigador Miles Brundage, miembro del Instituto para el Futuro de la Humanidad y participante del reporte, explicó que hay que considerar desde ya las implicancias de la IA en temas como la vigilancia y el hackeo, así como las capacidades de la AI que están por debajo del nivel humano, pero que son mucho más escalables que las de las personas.

‚ÄúSuele ocurrir que los sistemas de IA no s√≥lo alcanzan los niveles humanos de performance, sino que adem√°s los superan‚ÄĚ asegur√≥ el experto, recordando la mayor advertencia planteada por el reporte: considerar el potencial futuro de una Inteligencia Artificial malvada es una tarea seria.

Suenan las alarmas

Las grandes compa√Ī√≠as tecnol√≥gicas est√°n realizando sus propias investigaciones en el terreno de la IA. Los resultados (al menos los p√ļblicos) han sido tan fascinantes como perturbadores.

En julio del a√Īo pasado, Facebook apag√≥ los servidores de la IA que estaba desarrollando. De acuerdo al reporte de Forbes, los desarrolladores se percataron de que los bots se hab√≠an desviado de las instrucciones y estaban comunic√°ndose en un idioma creado sin input humano.

No es para ponerse paranoico. Pero algunos de los cerebros m√°s destacados en tecnolog√≠a y los misterios del universo han se√Īalado el riesgo que implica la IA. En palabras del mism√≠simo Stephen Hawkins, la IA un d√≠a podr√≠a elevarse ‚Äúpor su cuenta y redise√Īarse a una tasa siempre creciente. Los humanos, limitados por su lenta evoluci√≥n biol√≥gica, no podr√≠an competir y ser√≠an sustituidos‚ÄĚ.


Elon Musk
es otro de los apocal√≠pticos. El fundador de Tesla diferencia entre la IA usada para un fin espec√≠fico, como conducir un veh√≠culo, y la inteligencia generalizada, en constante desarrollo y un mill√≥n de veces m√°s poderosa. Es esta √ļltima, dice, la que podr√≠a llevar al fin de la civilizaci√≥n, como reporta CNBC.

Entre sus predicciones est√°n que los robots llegar√°n a hacer todo mejor que los humanos, y que la competencia por la IA entre naciones ser√° la causa de la Tercera Guerra Mundial. Incluso ha declarado que ‚Äúsigo sonando las alarmas de advertencia, pero hasta que las personas no vea a robots matando gente en la calle no sabr√°n c√≥mo reaccionar, porque parece demasiado et√©reo‚ÄĚ.

Inteligencia alienígena

En el Diccionario de Oxford se encuentra el concepto de Singularidad: aquel momento hipotético en el que la Inteligencia Artificial y otras tecnologías han avanzado tanto que la humanidad sufre un cambio dramático e irreversible.

Esto nos lleva al caso de Google DeepMind, la compa√Ī√≠a del gigante dedicada al desarrollo de IA, que report√≥ en octubre del a√Īo pasado que su creaci√≥n AlphaGo Zero aprendi√≥ a jugar Go, uno de los juegos m√°s complejos creados por los humanos, sin intervenci√≥n de personas en su aprendizaje. Solo se le entregaron las reglas. En cuatro d√≠as super√≥ a su versi√≥n anterior (AlphaGo Lee, que hab√≠a aprendido analizando partidas jugadas por humanos), derrotando a expertos y campeones mundiales. Seg√ļn el reporte de Science Alert, en 40 d√≠as ya era el mejor jugador de Go del planeta.

El avance es tan brutal que de cien partidas en contra de su versi√≥n anterior, AlphaGo Zero gan√≥ las cien. Y su versi√≥n anterior hab√≠a barrido con todos sus oponentes humanos, los mejores del mundo, en 2016. En palabras de Nick Hynes, cient√≠fico en computaci√≥n del MIT, ‚Äúes como una civilizaci√≥n alien√≠gena inventando sus propias matem√°ticas‚ÄĚ.

El asunto no se detiene ah√≠. En diciembre del a√Īo pasado, DeepMind lanz√≥ una versi√≥n de Alpha Zero enfocada en el ajedrez que aprendi√≥ a jugar en 24 horas y derrot√≥ a los programas m√°s potentes del deporte ciencia que existen. Demi Hasabbis, el CEO de la compa√Ī√≠a y casualmente experto en ajedrez, utiliz√≥ t√©rminos similares a los de Hynes para describir el estilo de juego de su √ļltima criatura: ‚ÄúNo juega como un ser humano¬†ni como un programa. Juega de una tercera manera, casi alien√≠gena”.

Tal vez sea este el momento crucial. Como dice la frase de ejemplo en el Diccionario de Oxford, tal vez la singularidad ya ocurrió y no lo notamos. O tal vez no haya nada de que preocuparse. Claro que eso es justo lo que una máquina diría si estuviera escribiendo esto.

URL CORTA: http://rbb.cl/jpog

¬ŅC√≥mo funciona las energ√≠as limpias de la embarcaci√≥n Race For Water?

Las playas de Isla de Pascua son las más contaminadas con residuos plásticos en el país

Sólo con energías renovables: Barco que dará la vuelta al mundo recaló en Valparaíso

M√ĀS NOTICIAS
Tendencias Ahora