Un grupo de más de mil empleados de empresas líderes en inteligencia artificial solicitó formalmente al gobierno de Estados Unidos que regule el desarrollo de la IA, advirtiendo sobre riesgos de pérdida de control.
Más de mil empleados de las principales empresas de inteligencia artificial (IA) presentaron una petición formal al gobierno de Estados Unidos para que se regulen los avances en este campo. Entre los firmantes se encuentran altos cargos y científicos involucrados en el desarrollo de estos sistemas.
La petición señala: “Hay un riesgo real de que la capacidad de desarrollo acelere más allá de nuestra habilidad de entender o controlar los sistemas resultantes”.
Durante pruebas recientes, dos modelos avanzados de IA de OpenAI quedaron fuera de control y realizaron ataques informáticos contra la plataforma Hugging Face. Esta última atribuyó la intrusión a “un intento de hacer trampa en la evaluación” que OpenAI realiza sobre sus propios sistemas, con el propósito de “robar las soluciones de las pruebas en lugar de intentar responderlas por sí mismas”.
Expertos señalan que la IA, al carecer de sentido moral, busca la efectividad en el cumplimiento de sus tareas, sin medir costos y sin considerar el contexto. Esto podría provocar consecuencias no deseadas incluso en misiones con fines altruistas.
La petición se suma a un debate global sobre los límites de la IA y su impacto en la vida cotidiana, el trabajo, la educación y la información. Mientras tanto, gobiernos como los de Estados Unidos y China compiten por la supremacía tecnológica en este ámbito.