Advierten que la IA podría causar incidentes graves en uno o dos años

El presidente de Google DeepMind, Demis Hassabis, emitió una advertencia sobre los riesgos asociados a la inteligencia artificial (IA) durante su participación en un evento celebrado el miércoles pasado. La declaración se realizó específicamente en la ciudad de Dublín, donde señaló que los agentes de IA podrían provocar "incidentes graves" dentro del plazo de uno o dos años si no se implementan las medidas necesarias para garantizar su seguridad.

Contexto de la advertencia

Hassabis enfatizó la necesidad crítica de que tanto el sector empresarial como los gobiernos adopten protocolos robustos. La preocupación central radica en la capacidad potencial de estos sistemas autónomos para generar consecuencias no deseadas o peligrosas si operan sin las salvaguardias adecuadas. Esta postura refleja una visión cautelosa respecto a la velocidad con la que se despliegan estas tecnologías y los marcos regulatorios actuales, tema que ya cubrimos en Sam Altman pide a la ONU supervisión global para frenar riesgos de la Inteligencia Artificial.

Implicaciones para el sector tecnológico

La intervención del líder de Google DeepMind pone sobre la mesa la responsabilidad compartida en la gestión de riesgos tecnológicos. Al identificar un horizonte temporal específico (uno o dos años), se sugiere que los desafíos no son futuros lejanos, sino inminentes. Esto implica una llamada a la acción inmediata para desarrollar estándares de seguridad que prevengan escenarios adversos antes de que ocurran.