Geoffrey Hinton, quien fuera uno de los creadores de esta tecnología, ahora advierte sobre los peligros que la IA puede traer para los humanos
El desarrollo de chatbots, como ChatGPT, o generadores de imágenes como Midjourney, han sido criticados duramente por científicos en los últimos meses debido a los problemas que puede generar, muestra de ello es el contenido que puede engañar a las personas por el realismo que aparentan, como las imágenes del Papa Francisco II.
Curiosamente, algunos de estos críticos participaron en el desarrollo de la Inteligencia Artificial y recientemente se han mostrado preocupados por las consecuencias negativas que el desarrollo de este tipo de tecnología podría acarrear en nuestra vida cotidiana, tal es el caso de Geoffrey Hinton, también llamado “pionero de la IA” y quien colaboró para poner los cimientos de las actuales IAs.
Geoffrey Hinton es un científico estadounidense que siempre se opuso a utilizar recursos del estado para financiar las investigaciones, es por ello que en 1980, cuando fue profesor de Ciencias de la Computación en la Universidad Carnegie Mellon, decidió renunciar para que la Inteligencia Artificial no fuera utilizada en el campo de batalla, lo que él llamó “soldados robots”, y después decidió trasladarse a Canadá.
En 2012, Hinton ya radicando en Toronto, junto a dos de sus estudiantes, Ilya Sutskever y Alex Krishevsk, construyeron una “red neuronal” que era capaz de analizar miles de imágenes, e identificar objetos comunes, como perros, y automóviles.
El proyecto les interesó a los ejecutivos de Google que decidieron comprar la empresa de Hinton y sus alumnos por 44 millones de dólares. Sorprende que en muy poco tiempo, dicha red neuronal impulsó el desarrollo de tecnologías más sofisticadas como ChatGPT y Google Bard.
Uno de sus alumnos, Ilya Sutskever se convirtió en jefe científico de OpenAI, mientras que en el 2018, Hinton y otros dos colaboradores recibieron el Premio Turing , el llamado «el Premio Nobel de la computación» por su trabajo en redes neuronales, relata el cientifico en entrevista con The New York Times.
El principio del fin
En un comienzo, Hinton creyó que la tecnología que estaban desarrollando era una forma de lenguaje inferior al que genera el humano, pero superior en la cantidad de datos que puede manejar, lo cual sonaba muy prometedor.
Sin embargo, su opinión cambió el año pasado cuando Google y OpenAI crearon sistemas utilizando cantidades de datos mucho mayores, lo cual preocupó a Hinton quien consideró que podría “eclipsar la mente humana”, en este sentido, el científico presentó su renuncia a Google al considerar que la carrera por el desarrollo de las IA’s plantea varios dilemas de orden ético y moral.
«Mire cómo era hace cinco años y cómo es ahora. Tome la diferencia y continúe hacia adelante. Eso asusta», señaló Hinton.
Además, expresó su preocupación por el uso que se le puede dar a la Inteligencia Artificial ya que “se puede volver peligroso”, tanto para los trabajos -en los que una persona podrá ser reemplazada por un ordenador-, como para el contenido que consumen las masas y que ya no podrán discernir de lo que es falso y sobre lo que es real.
La persona promedio ya no podrá saber qué es verdad
«La idea de que estas cosas en realidad podrían volverse más inteligentes que las personas, algunas personas lo creían […] Pero la mayoría de la gente pensaba que estaba muy lejos. Yo pensaba que estaba muy lejos. Pensaba que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no pienso eso», añadió.
Hinton considera que tanto Google como Microsoft, que son las empresas que se encuentran impulsando el desarrollo de las IAs, deberían frenar los trabajos hasta entender con calidad si es posible controlar este tipo de tecnología, la cual tiende a fallar y a operar por su cuenta.
“No creo que deban escalar esto más hasta que hayan entendido si pueden controlarlo”, sentenció.
