Un reconocido grupo de científicos informáticos y otros personajes de la industria tecnológica como Elon Musk y el cofundador de Apple, Steve Wozniak, llegaron a la conclusión de que empresas tecnológicas van demasiado rápido en el lanzamiento de poderosas tecnologías de Inteligencia Artificial (AI) por lo que piden una pausa de seis meses para considerar los riesgos.
Su petición publicada este miércoles 29 de marzo se da en respuesta al reciente lanzamiento GPT-4 de la empresa OpenAI, un sucesor más avanzado de su extensamente usado chatbot ChatGPT, que en parte impulsó una carrera entre los gigantes tecnológicos Microsoft y Google para lanzar aplicaciones similares.
La carta propone que durante los seis meses de pausa, los laboratorios de IA y los expertos independientes “desarrollen e implementen” un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA que sean rigurosamente auditados y supervisados.
¿Algún día las Inteligencias Artificiales podrían aventajar a los humanos?
La carta advierte que los sistemas de Inteligencia Artificial con “inteligencia competitiva con humanos pueden plantear fuertes riesgos a la sociedad y la humanidad”, desde inundar el internet con desinformación y automatizar trabajos, hasta riesgos futuros más catastróficos sacados del ámbito de la ciencia ficción.
Dice que en “meses recientes laboratorios de inteligencia artificial están enfrascados en una carrera sin control para desarrollar y desplegar mentes digitales más poderosas que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de manera fiable”.
¿Quiénes firmaron la carta?
La petición fue organizada por el organismo no lucrativo Future of Life Institute (Instituto Futuro de la Vida) que dice que entre los firmantes confirmados está el galardonado con el premio Turing y pionero de la inteligencia artificial, Yoshua Bengio, y otros investigadores líder de la tecnología como Stuart Rusell y Gary Marcus.
Entre otros están Wozniak, el excandidato a la presidencia de Estado Unidos, Andrew Yang, y Rachel Bronson, presidenta de Bulletin of the Atomic Scientists, un grupo de defensa orientado a la ciencia conocido por sus advertencias contra una guerra nuclear que acabe con la humanidad.
Elon Musk, quien dirige Tesla, Twitter y SpaceX, cofundó OpenAI y fue de sus primeros inversores, desde hace mucho tiempo expresó su preocupación por los riesgos existenciales de la Inteligencia Artificial.
Un firmante sorpresivo es Emad Mostaque, director general de Stability AI, fabricante del generador de imágenes de Inteligencia Artificial Stable Diffusion que se asocia con Amazon y compite con el generador similar de OpenAI conocido como DALL-E.
Los firmantes mencionan todos los miedos y peligros que en los últimos meses han resonado en foros, artículos y conversaciones cotidianas en un tono de alerta.
En este sentido, piden que los desarrolladores trabajen con los legisladores para acelerar un sistema legal sólido en torno a la IA.
Fuente: AP
