Líder de Anthropic vaticina un incidente global dentro de 6 a 12 meses si no meten freno a la IA

El director ejecutivo de OpenAI, Sam Altman, respaldó la propuesta de Dario Amodei, director ejecutivo de Anthropic, para establecer un ritmo más controlado en el desarrollo de la inteligencia artificial, especialmente ante el avance acelerado de las capacidades de estos sistemas.

A través de una publicación, Altman aseguró que coincide con Amodei en la necesidad de «marcar el ritmo de la innovación» y señaló que este asunto ha sido uno de los principales temas de discusión dentro de OpenAI durante las últimas semanas.

Uno de los puntos que destacó fue la propuesta de incorporar evaluadores independientes con un nivel de acceso similar al de los empleados de las compañías de IA. Según Altman, se trata de una iniciativa que considera acertada y que OpenAI también tiene previsto implementar.

«Contar con evaluadores independientes con acceso similar al de los empleados es una excelente idea, y nosotros haremos lo mismo», afirmó el ejecutivo, quien adelantó que la empresa ofrecerá próximamente más detalles sobre la medida.

La declaración se produce después de que Amodei planteara un plan de tres etapas para «marcar el ritmo de la frontera» de la IA. Su propuesta contempla supervisión externa, coordinación entre las principales empresas del sector y acuerdos internacionales destinados a reducir los riesgos asociados con sistemas cada vez más avanzados.

Para el director ejecutivo de Anthropic, ralentizar el ritmo de desarrollo no significa detener el progreso tecnológico, sino conceder a las empresas más tiempo para fortalecer áreas como la alineación, la interpretabilidad, las pruebas de seguridad y la supervisión de los modelos.

Con el respaldo de Altman, la propuesta de contar con revisores externos permanentes suma ahora el compromiso de otra de las principales compañías de inteligencia artificial. OpenAI, sin embargo, aún no ha detallado cómo funcionará su mecanismo de evaluación ni cuándo comenzará a aplicarlo.

Fuente: Versión Final

Sigue las noticias de Falcón, Venezuela y el Mundo en www.notifalcon.com síguenos en Instagram y Twitter @notifalcon y en Facebook: https://www.facebook.com/diarionotifalcon2