Un experto en informática, a menudo llamado “el padrino de la inteligencia artificial”, dejó su puesto en Google para hablar sobre los peligros de esta tecnología, informaron recientemente medios estadounidenses.
Geoffrey Hinton , creador de una tecnología fundamental para los sistemas de inteligencia artificial, compartió con The New York Times que los avances en el campo representan “riesgos profundos para la sociedad y la humanidad”.
“Observa cómo era hace cinco años y cómo es ahora. Calcula la diferencia y extrapólala hacia el futuro. Eso da miedo.”, mencionó en el artículo publicado en el diario neoyorquino.
Hinton expresó que la competencia entre gigantes tecnológicos está impulsando a las empresas a lanzar nuevas tecnologías de IA a un ritmo peligroso, poniendo en riesgo empleos y propagando información incorrecta.
“Es complicado ver cómo se podría evitar que actores malintencionados lo utilicen para fines maliciosos”, comentó al Times.
En 2022, Google y OpenAI, la empresa emergente detrás del popular chatbot de IA ChatGPT, comenzaron a desarrollar sistemas utilizando volúmenes de datos mucho mayores que antes.
Hinton dijo al Times que creía que estos sistemas estaban superando la inteligencia humana en cierta medida debido a la cantidad de datos que analizaban.
“Quizás lo que sucede en estos sistemas es realmente mucho mejor que lo que ocurre en el cerebro”, señaló al diario.
Aunque la IA se ha utilizado para respaldar a los trabajadores humanos , la rápida expansión de chatbots como ChatGPT podría poner en peligro empleos.
La IA “elimina el trabajo pesado”, pero “podría quitar más que eso”, compartió con el Times.
El científico también advirtió sobre la posible propagación de información incorrecta generada por la IA y comentó al Times que el individuo promedio “ya no podrá saber qué es verdad”.
Hinton notificó a Google su renuncia en abril de este año, informó el Times.
Jeff Dean, científico principal de Google AI, agradeció a Hinton en un comunicado a medios estadounidenses, en el que comenta:
Siendo una de las primeras empresas en publicar los Principios de IA, seguimos comprometidos con un enfoque responsable de la IA.
Estamos aprendiendo continuamente a comprender los riesgos emergentes mientras también innovamos de manera audaz.
En marzo, el multimillonario tecnológico Elon Musk y varios expertos solicitaron una pausa en el desarrollo de sistemas de inteligencia artificial para dar tiempo a garantizar su seguridad.
Una carta abierta, firmada por más de 1,000 personas, incluidos Musk y el cofundador de Apple, Steve Wozniak, fue impulsada por el lanzamiento de GPT-4, una versión mucho más potente de la tecnología utilizada por ChatGPT.
Hinton no firmó esa carta en ese momento, pero compartió con The New York Times que los científicos no deberían “expandir esto más hasta que hayan comprendido si pueden controlarlo”.