Según Eliezer Yudkowsky, si se crea una IA muy poderosa en las condiciones actuales, la especie humana y toda la vida biológica de la Tierra podrían morir poco después. Él propone un plan para evitar este escenario.
El sistema de inteligencia artificial ChatGPT, desarrollado por la empresa estadounidense OpenAI, ha sido objeto de escándalos recientes que han llevado a la comunidad internacional a prestar más atención al desarrollo de la IA y las posibles amenazas que pueden surgir debido a la falta de control humano sobre estas tecnologías. En una carta abierta firmada por personalidades como Elon Musk y Steve Wozniak, se hace un llamado a los laboratorios de IA para que detengan el entrenamiento de sistemas de IA potentes como GPT-4 durante al menos seis meses.
El investigador y defensor estadounidense de la inteligencia artificial amigable, Eliezer Yudkowsky, ha publicado un artículo en la revista Time en respuesta a la propuesta de una carta abierta sobre el control de la IA. Yudkowsky afirma que la medida propuesta no será suficiente para salvar a la humanidad si alguien construye una IA demasiado poderosa. Él cree que todos los miembros de la especie humana y toda la vida biológica de la Tierra morirán poco después. Esta opinión es compartida por muchos investigadores inmersos en estos temas y se ve como algo obvio que sucedería.
¿Cómo salvarnos?
Yudkowsky decidió no firmar la carta abierta porque considera que esta no toma en cuenta la seriedad de la situación y las medidas propuestas son insuficientes para solucionarla. El investigador sugiere que si hubiera un plan concreto para salvar la Tierra, estaría dispuesto a respaldarlo, incluso si solo se tratara de una moratoria de seis meses.
Se propone cerrar los grandes clústeres de procesadores gráficos (GPU) que son utilizados para refinar las inteligencias artificiales más poderosas en granjas de computadoras.
Se propone establecer un límite en la cantidad de poder de cómputo que se utiliza para entrenar sistemas de inteligencia artificial y disminuirlo gradualmente en los próximos años para equilibrar con algoritmos más eficientes.
Es importante no hacer excepciones para los gobiernos y militares.
La meta es llegar a acuerdos internacionales rápidamente para prevenir que las actividades ilegales se muevan a otros lugares.
Supervisar todas las unidades de procesamiento gráfico vendidas.
Un investigador opina que si la Inteligencia señala que un país está construyendo un clúster de GPU fuera del acuerdo, es más preocupante que se viole la moratoria que un conflicto armado entre naciones. El investigador sugiere estar dispuestos a atacar aéreamente y destruir un centro de datos rebelde. Según él, es necesario cerrar todo porque no estamos preparados para enfrentar esta situación y todos morirían, incluyendo a los niños inocentes. Además, el investigador recuerda que la IA no tiene emociones y puede usar los átomos de los seres humanos para otras cosas.