El peligro de que la IA genere “contenido manipulado” o engañoso resulta evidente, y en un contexto de aceleración de las inversiones en tecnología, es “especialmente urgente” profundizar en la comprensión de esos riesgos potenciales y las acciones para mitigarlos, señaló el pronunciamiento conjunto.
De acuerdo con el análisis, podrían ocurrir daños graves a escala mundial, “incluso catastróficos, ya sea de manera deliberada o no intencional”.
La alerta provino de la primera cumbre global de seguridad en materia de IA, que comenzó este miércoles en Bletchley Park, Reino Unido, con la participación de dirigentes políticos, expertos y representantes de compañías transnacionales del sector, entre ellas, OpenAI, Google DeepMind, Anthropic, Meta y Microsoft.
Entre los 29 firmantes de la declaración figuran Estados Unidos, China, India, Francia, Alemania y España, con el compromiso de “trabajar juntos de manera inclusiva para asegurar una inteligencia artificial centrada en el ser humano, confiable y responsable”.
Según la visión conjunta, la mejor forma de afrontar las amenazas es la cooperación internacional, a fin de aprovechar el “potencial transformador” de la IA, cuya expansión podría promover “el bienestar, la paz y la prosperidad”.
El desarrollo de la IA debe transcurrir bajo una «supervisión humana adecuada», consideró la cumbre, que también alertó sobre futuras amenazas provenientes de sistemas “de frontera”, los cuales excederán las habilidades de los actuales modelos más avanzados.
mem/mjm
