'Un Video Falso de Dos Políticos Besándose', el Nuevo Riesgo en la Política por la IA

En México comenzó el proceso electoral 2023-2024 y en esta ocasión tiene un nuevo invitado: la Inteligencia Artificial como generador de contenido; sin embargo, con ello llegan también los riesgos de inundar la web con deepfakes.

Las deepfakes, de acuerdo con Víctor Merchand Benítez, integrante de Punto Focal en México del Programa Global de Ciberdelito, de la Oficina de las Naciones Unidas contra la Droga y el Delito (UNODC), "significan todo aquello que tiene un detalle muy alto en su creación, que es muy similar a lo que puede encontrarse en la vida real y por ello llegar a confundir".

Las fake news son toda esa desinformación que nos encontramos, que no se valida o porque consultamos fuentes (de información) que no son las adecuadas, y muchas de ellas son producto de deep fakes

Derivado de ello, el nuevo reto es no solo no caer en información falsa sino en cómo regular su generación.

IA, el nuevo reto que se enfrenta

Jesús Savage Carmona, profesor-investigador de la Facultad de Ingeniería de la Universidad Nacional Autónoma de México (UNAM), considera indispensable promover la regulación de la Inteligencia Artificial, toda vez que empieza a generar más problemas que beneficios.

Aseguró que no se debe tener miedo ni tratar de prohibir el uso de las nuevas herramientas digitales, como el ChatGPT, pero sí se debe buscar la forma de atajar una serie de riesgos que se han acrecentado. 

Además, alertó que al ser desarrollos que se alimentan con datos introducidos por las personas, son susceptibles de generar información falsa o imprecisa. 

Lo primero que se debe considerar es que cualquier contenido se puede manipular; muestra de ello es el ChatGTP, el cual aprende con ejemplos y se alimenta con datos que con frecuencia se toman de páginas de internet públicas, no necesariamente confiables; entonces puede manejar a la población con información falsa.

En el mismo sentido, añadió, a las nuevas herramientas también se les puede ordenar que generen videos o imágenes falsas o fotografías alteradas.

Noticia relacionada: 'Deep Fakes' Violentaron a Rosalía y Cualquiera Está en la Mira

“Existen otras redes neuronales generativas como la llamada Dalí, a la cual por medio de texto le podemos decir que genere video o imágenes falsas; podremos decir: 'oye, genérame un video de un político besándose con otra política'. Entonces, imagínense que esto va a pasar en las elecciones el próximo año con videos e imágenes falsas”, alertó Savage Carmona.

Sin embargo, el investigador pone sobre la mesa el papel de las personas para que los robots desarrollen ciertas tareas.

Lo que actualmente facilita que reconozcan objetos son las llamadas redes neuronales convolucionales, que retoman el concepto de las neuronas, logran desarrollar grandes redes para almacenamiento de datos e información, que son alimentadas permanentemente por personas.

Jesús Savage destacó que en cuanto al desarrollo de robots que realicen actividades domésticas a través de la inteligencia artificial, hay "avances espectaculares" en los últimos 15 años.

"Lo que parecía ciencia ficción hoy es prácticamente una realidad, con autómatas que pueden efectuar todo tipo de tareas en el hogar, en las llamadas casas inteligentes y a través de lo que se conoce como el internet de las cosas", dijo.

Historias recomendadas:

• ¿Se Puede Predecir un Sismo? Científicos de la UNAM y Cenapred Responden
• Descubren en el Espacio un Componente Básico para el Origen de la Vida
• Caminar 8 Mil Pasos Diario Reduce Riesgo de Muerte Prematura; Rápido Es Mejor

RH