Cada vez son más los aumentos por violencia digital por conducto de los medios electrónicos y las plataformas digitales, donde los contenidos son generados por manipulación e inteligencia artificial y se prestan para el robo de identidades, datos personales, bullying, fraudes, extorsiones, entre otros.
Ante esta problemática, el presidente de la Comisión de Ciencia, Tecnología e Innovación, Diputado Christian Moctezuma González realizó un foro denominado “Las Dimensiones de la Inteligencia Artificial”, se reunió con expertos de la materia a través del Cinvestav, el Instituto Politécnico Nacional, la Universidad Rosario Castellanos y la HPE, México, en el intercambio de puntos de vista, coincidieron que el papel de la inteligencia artificial está en la lucha contra la desinformación y la manipulación en línea, es crucial para salvaguardar la seguridad digital y la cohesión social.
Asimismo, se señalaron algunas técnicas aplicadas de manera negativa que conlleva a amenazas y riesgos como: las noticias falsas o «fake news»; el «deepfake», que manipula imágenes y videos para crear contenido falso; el ciberacoso y el ciberbullying a través de redes sociales; así como los montadeudas, las cuales hacen uso de la IA para extorsionar y defraudar a las víctimas.
Los avances en IA han permitido clonar con facilidad el rostro y la voz de cualquier persona, inclusive hasta el gobierno y las personas funcionarias que no fueron la excepción, al ser usurpadas de sus identidades, a causa de los programas de IA, por su acceso fácil y a un costo muy bajo.
En 2023, el robo de identidad aumentó un 218%, llevando a situaciones extremas como el suicidio de víctimas desde menores en las escuelas afectados por ciberacoso y bullying.
El morenista apunta a que la IA no se debe utilizar como una limitación, si no como una herramienta para el progreso, además, que debe ser aplicada de manera reflexiva y estratégica; por lo que es crucial promover una cultura digital en la población, con el fin de destacar tanto los riesgos de un mal uso como los beneficios de una utilización adecuada de la tecnología.
Por tal motivo, el presidente Christian Moctezuma, presenta una iniciativa que reforma el ámbito federal en materia de Inteligencia artificial y ciberseguridad, para que el Instituto Federal de Telecomunicaciones como autoridad competente, tenga en el marco de sus atribuciones, regular a las personas creadoras o desarrolladoras, proveedoras y usuarias como responsables desde la generación y uso de los contenidos.
Además, regulará requisitos, obligaciones, prohibiciones, de igual forma, la leyenda o etiqueta, la cual, plasme que «el contenido es generado por Inteligencia Artificial»; por consiguiente, se obtenga la autorización de los contenidos generados, incluidos los gratuitos.
Por último, añadió la necesidad de dar facultades a la autoridad competente ya que, no sólo se trata de establecer penas, como lo han propuesto otros legisladores para el uso de la IA, si no regularla desde su creación, desarrollo y uso en los contenidos de los diversos medios electrónicos y plataformas digitales.