Pausar el desarrollo de las IA, antes de que se les vaya de las manos?
Publicado de Carlos Amaral en IA - Inteligencia Artificial · Sabado 01 Abr 2023
La inteligencia artificial es una tecnología impresionante,
pero también es motivo de preocupación para algunos.
Un grupo de expertos y personalidades de todo el mundo, incluyendo a Elon Musk, ha firmado una carta abierta para solicitar la pausa en el entrenamiento de la IA. La iniciativa es del Future of Life Institute (FLI), una ONG con la misión de reducir los riesgos catastróficos y existenciales globales de tecnologías poderosas.
La petición ha generado un gran debate entre los expertos, con algunos apoyando la idea y otros criticándola.
Entre quienes apoyan la petición se encuentran Steve Wozniak, Emad Mostaque, Yval Noah Harari, Evan Sharp, y Max Tegmark. Incluso hay ingenieros que trabajan para empresas como DeepMind o Microsoft que han firmado la petición, aunque nadie de OpenAI lo ha hecho.
Firmas Falsas?
Se ha revelado que algunas de las firmas eran falsas, incluyendo la suplantación de identidad del CEO de OpenAI, Sam Altman, del presidente de China, Xi Jinping, y del responsable de IA en Meta, Yann LeCunn.
Aunque la preocupación de Musk parece razonable en cierta medida, se ha cuestionado su postura debido a su relación pasada con OpenAI y con Sam Altman. Musk, uno de los inversores iniciales, abandonó la empresa y ahora probablemente lamenta la decisión.
Se habla de cómo está tratando de crear un rival para OpenAI, y esa pausa en el entrenamiento de la IA le vendría muy bien para recuperar terreno. Expertos como Andrew Ng se oponen a la idea de pausar el entrenamiento de la IA, argumentando que no hay una forma realista de aplicar una moratoria e impedir que todos los equipos amplíen las LLM.
En resumen, la inteligencia artificial es una tecnología poderosa que ha generado preocupaciones en algunos expertos y personalidades de todo el mundo. Mientras algunos apoyan la petición de pausar el entrenamiento de la IA, otros argumentan en contra de ella.
Aquí un directo de uno de los referentes en Youtube sobre temas de IA, Dot CSV:
La discusión sobre los riesgos y beneficios de la IA continuará en el futuro.
Pueden dejar sus opiniones aquí a continuación...