Exigen una pausa en la carrera de IA porque la consideran «fuera de control»

(Negocios CNN) – Algunos de los nombres más importantes de la tecnología están pidiendo que los laboratorios de inteligencia artificial (IA) dejen de entrenar los sistemas de IA más poderosos durante al menos seis meses, citando «riesgos profundos para la sociedad y la humanidad».

Elon Musk se encontraba entre las docenas de líderes tecnológicos, profesores e investigadores que firmaron la carta publicada por la organización sin fines de lucro Future of Life Institute. Musk lo respaldó.

La carta llega solo dos semanas después de que OpenAI anunciara GPT-4, una versión más poderosa de la tecnología detrás de la herramienta de chatbot viral, ChatGPT. En las primeras pruebas y en la demostración de la empresa, la tecnología se demostró escribiendo aplicaciones, superando pruebas estandarizadas y creando un sitio web funcional a partir de un boceto dibujado a mano.

La carta decía que la pausa debería aplicarse a los sistemas de IA «más fuertes que GPT-4». También dijo que los expertos independientes deberían usar la pausa propuesta para desarrollar e implementar un conjunto de protocolos comunes para las herramientas de IA que sean seguras «más allá de toda duda razonable».

«La inteligencia artificial avanzada puede representar un cambio profundo en la historia de la vida en la Tierra y debe planificarse y administrarse con el cuidado y los recursos adecuados», decía la carta. Lamentablemente, este nivel de planificación y gestión no se está dando, a pesar de que en los últimos meses AI Labs se ha embarcado en una carrera fuera de control para desarrollar y desplegar mentes digitales más poderosas que nadie, ni siquiera sus creadores, pueden contar. comprender o predecir o controlar.

Si el trabajo no se detiene pronto, la carta decía que los gobiernos deberían intervenir y retrasar.

La ola de interés que rodeó a ChatGPT a fines del año pasado ayudó a renovar una carrera armamentista entre las empresas de tecnología para desarrollar e implementar herramientas de IA similares en sus productos. OpenAI, Microsoft y Google están liderando el camino en esta dirección, pero IBM, Amazon, Baidu y Tencent están trabajando en tecnologías similares. Una larga lista de nuevas empresas también está desarrollando asistentes de escritura y generadores de imágenes de IA.

Los expertos en IA están cada vez más preocupados por la capacidad de las herramientas de IA para proporcionar respuestas sesgadas, la capacidad de difundir información errónea y el impacto en la privacidad del consumidor. Estas herramientas también han planteado preguntas sobre cómo la IA puede cambiar carreras, permitir que los estudiantes hagan trampa y cambiar nuestra relación con la tecnología.

La carta indica una incomodidad más amplia dentro y fuera de la industria con el rápido ritmo de los avances en inteligencia artificial. Algunas agencias gubernamentales en China, la Unión Europea y Singapur han introducido versiones anteriores de marcos de gobernanza de IA.