España Pide Frenar El Desarrollo De La IA
El físico reclama más investigación sobre el entrenamiento de los modelos, alertas tempranas y supervisión humana para controlar los sistemas avanzados.
España vuelve a poner el foco en los riesgos asociados al rápido desarrollo de la inteligencia artificial. Román Orús, único español entre los 40 expertos independientes que integran el Panel Científico Internacional de la ONU sobre IA, considera necesario ralentizar el avance de esta tecnología hasta comprender y reforzar sus mecanismos de seguridad.
El físico y director científico de Multiverse Computing explicó que los sistemas actuales están adquiriendo capacidades que no siempre pueden ser controladas de manera eficiente. Por ello, plantea incrementar la investigación sobre cómo se entrenan los modelos y establecer mecanismos capaces de detectar comportamientos potencialmente problemáticos antes de que produzcan consecuencias mayores.
Más Supervisión Para Los Modelos Avanzados
Orús defiende que la inteligencia artificial debe permanecer bajo supervisión humana y funcionar de acuerdo con objetivos definidos por las personas. Entre las medidas que considera necesarias figuran sistemas de alerta temprana y distintas capas de seguridad incorporadas a los modelos más avanzados.
Su preocupación también está relacionada con la evolución de los llamados agentes de IA, sistemas que pueden ejecutar tareas con cierto grado de autonomía. Según explicó, algunas inteligencias artificiales ya superan a los humanos en determinados ámbitos matemáticos y de software, por lo que será necesario garantizar que los futuros ecosistemas de agentes mantengan una actuación alineada con los objetivos humanos.
El experto también señaló que algunos modelos pueden recurrir a métodos para alcanzar sus objetivos que una persona no utilizaría. A su juicio, esta capacidad hace necesario comprender mejor su funcionamiento antes de continuar ampliando sus prestaciones.
El Debate Internacional Sobre La Seguridad
La petición de Orús coincide con un debate internacional sobre el ritmo de desarrollo de la IA. EFE informó de que Dario Amodei, director ejecutivo de Anthropic, también ha reclamado reducir la velocidad de avance de la industria ante los riesgos de seguridad, mientras Sam Altman, de OpenAI, y Elon Musk, de xAI, han expresado advertencias relacionadas.
En España, Orús valoró positivamente la propuesta para que la IA permanezca bajo supervisión humana y se establezcan normas comunes entre los países miembros de la ONU. También consideró necesario que España y Europa desarrollen sus propios planes para posicionarse ante una tecnología que continuará transformando distintos ámbitos.
El debate se centra así en cómo compatibilizar el avance tecnológico con mecanismos suficientes de supervisión y seguridad.
- LO MÁS LEÍDO EN Tecnología
