¿Se parece la IA a tener un cachorro de tigre en casa que cuando crezca acabará devorándonos? Y si la inteligencia artificial acaba siendo mucho más inteligente que el ser humano… ¿Puede ser la solución para compartir el planeta con ella no convertirla en una obediente asistente sino en algo parecido a una madre programada para cuidar de un bebé indefenso?
Esa es la propuesta que el Nobel de Física y considerado «padrino» de la inteligencia artificial, Geoffrey Hinton, ha lanzado este martes en la segunda jornada de Starmus, en Tenerife, un día después de advertir de que las máquinas podrían llegar a comprender cosas inaccesibles para nuestro cerebro, igual que «las ratas nunca comprenderán los números primos».
Antes de desarrollar su tesis, Hinton ha recibido por sorpresa la Medalla Stephen Hawking a la Comunicación Científica de Starmus por sus contribuciones a la ciencia computacional, de manos del astrofísico y guitarrista de Queen Brian May y del fundador del festival Garik Israelian.
Inteligencia artificial: Hinton prevé que en un plazo de diez años habrá sistemas superiores
Tras ello, ha vuelto a disertar sobre el problema que le preocupa desde que en 2023 abandonara Google y se dedicara a advertir sobre los problemas que traería la denominada Superinteligencia.
Para Hinton, es innegociable que la inteligencia artificial posee ventajas que la humana no puede igualar y ha considerado mucho más que posible que en la próxima década aparezcan sistemas capaces de realizar prácticamente cualquier tarea intelectual mucho mejor que los humanos.
Control de la IA: los sistemas opacos podrían engañar deliberadamente a las pruebas
Por ello ha lanzado una advertencia: todavía no sabemos cómo compartir el planeta con inteligencias superiores sin correr el riesgo de perder el control sobre ellos, y ha ejemplificado, de nuevo, con animales.
«Nosotros nos creemos más inteligentes que los pollos y por tanto no les hacemos merecedores de derechos», ha dicho antes de proceder a un pequeño silencio.
En su disertación, el Nobel ha alertado de que cada vez será más difícil saber qué hacen internamente estos sistemas, especialmente si avanzan hacia lenguajes más sofisticados, eficientes, opacos e ininteligibles para los humanos.
«No creo que nos quede demasiado tiempo para intervenir mientras los entendemos», ha señalado.
A ello suma lo que ha denominado irónicamente el «efecto Volkswagen», en relación a cómo esta empresa trampeó la década pasada sus pruebas respecto a las emisiones contaminantes, es decir, qué ocurriría si los sistemas de IA detectan que están siendo evaluados y modifican su comportamiento para superar la prueba, lo que complicaría comprobar si realmente actúan como se espera.
Se pretende que la superinteligencia consolide firmemente el cuidado de las personas
Hinton ha vuelto al ejemplo del tigre cachorro y ha dicho que deshacerse de la bestia no es una opción, porque la IA, ha dicho, ofrece demasiados beneficios, de modo que lo inteligente sería transitar hacia el ejemplo de la madre y el bebé.
«Una madre tiene mucha más capacidad e inteligencia que su hijo, pero el llanto del bebé puede determinar su conducta porque su instinto la empuja a atenderlo», ha reflexionado.
Y la pregunta la ha deslizado a continuación: ¿Estamos a tiempo de dotar a una futura superinteligencia de una disposición igualmente profunda hacia el bienestar humano para garantizar nuestra supervivencia?
Seguridad de la IA: el «impulso de cuidado» debe resistir los cambios en el código
Incluso si esa inteligencia pudiera modificar su propio código, ha razonado, debería diseñarse de modo que no quisiera eliminar ese impulso, de la misma manera que una madre podría desear dormir cuando llora su hijo pero no querría desprenderse de unos instintos cuya desaparición sabe que perjudicaría al bebé.
«Tenemos que pensar en ellas como nuestras madres, no como nuestros ridículos asistentes», ha resumido Hinton, para quien las grandes tecnológicas se concentran demasiado en ganar la carrera por construir sistemas cada vez más inteligentes y no suficientemente en crear entidades con las que resulte seguro compartir el mundo.
El debate se había iniciado en la mesa «¿Pueden las máquinas entender el mundo?», en la que Hinton compartió escenario con Bernhard Schölkopf, director del departamento de Inferencia Empírica del Instituto Max Planck de Sistemas Inteligentes, y Philip Torr, profesor de Ingeniería de la Universidad de Oxford especializado en aprendizaje computacional.
En la mesa Hinton ha ido aún más lejos al cuestionar que la inteligencia deba determinar quién merece más derechos, precisamente porque los humanos dejarán de ocupar necesariamente la cima de esa jerarquía, y puede que pronto.
Comentarios (0)
Todavía no hay comentarios en este artículo.