Objetivos alineados

La inteligencia artificial bajo la mirada de Stephen Hawking.

Por Claudio Pairoba*

 

Con la reciente muerte de Stephen Hawking su extrema cautela respecto de la Inteligencia Artificial (IA) volvió a la palestra. En 2015 y durante una conferencia en Londres, el físico teórico remarcó la necesidad de que las máquinas y los humanos tuvieran “objetivos alineados” (1).

“Una súper inteligente IA será extremadamente buena en conseguir sus objetivos y si esos objetivos no están alineados con los nuestros, estamos en problemas”, expresó el físico teórico de acuerdo a un diario británico (2).

La Inteligencia Artificial está en sus albores y las posibilidades son insospechadas. Como todo desarrollo que genera grandes expectativas y comienza a concretar interesantes resultados, tendrán que transcurrir varios años para que evaluemos las ventajas y desventajas de esta nueva disciplina. Algo así como lo que sucedió en la Argentina con el boom de la soja transgénica en los ´90.

Toda frontera que debe ser traspuesta encierra siempre potenciales beneficios al igual que efectos adversos los cuales, generalmente, se prefiere dejar de lado. El cine ha mostrado escenarios potenciales de las consecuencias indeseables de la IA y aunque queramos pensar que son simples fantasías de productores ávidos de espectadores siempre queda el resquemor de lo que podría llegar a pasar.

A mediados de 2017 nos enterábamos de que Facebook tuvo que desconectar dos máquinas que se comunicaban en un lenguaje que solo ellas comprendían, dejando fuera a los azorados ingenieros que las habían creado (3).

Un reciente capítulo de los "X-Files" mostraba a sus protagonistas cenando en la barra de un restaurante  automatizado con ellos como únicos comensales (4). La ausencia de otros humanos creaba una atmósfera perturbadora. La negativa a dejar propina desencadena una cacería por parte de distintas máquinas que colaboran entre sí hasta lograr su objetivo final. Episodio entretenido e inquietante. Recientemente un restaurante con similares características abrió en Buenos Aires (5).

Recientemente, y durante la instalación de un televisor inteligente, vi un mensaje sorprendente. ¿Somos conscientes de nuestra dependencia actual de la IA? Esta fue una de las preguntas que disparó la aparición de la frase en la pantalla: “Por favor, indíqueme. Quiero aprender”.

Fuentes

1. Stephen Hawking, el científico que alertó de que la inteligencia artificial destruirá a la humanidad.

2. Stephen Hawking: Artificial intelligence could wipe out humanity when it gets too clever as humans will be like ants.

3. Facebook ha apagado una inteligencia artificial que había «cobrado vida».

4. The X Files Recap: when Tech Attacks.

5. Lo que se vino: un restaurant tecno sin mozos, sin cajero, todo automatizado.

 

Nota  relacionada

Elon Musk se une a #DeleteFacebook con una lluvia de tuits.

 

*Miembro de la Escuela de Comunicación Estratégica de Rosario y la Red Argentina de Periodismo Científico. Acreditado con la American Association for the Advancement of Science (Science) y la revista Nature.