Conoce 5 peligros que la inteligencia artificial generativa está causando

La innovación de la Inteligencia Artificial es algo que no asombra a todos en la actualidad y sus límites parecen desmoronarse a medida que avanza, a propósito de la demanda que recientemente realizó Elon Musk a OpenAI, en la que el dueño de X la cataloga como peor que las armas nucleares, ahora ESET la una compañía líder en detección de amenazas realiza algunas advertencias sobre la IA generativa.

Aunque la IA generativa tenga un futuro prometedor obviamente hay algunos riesgos que las personas corren.

Los modelos de la IA están establecidos sobre modelos estadísticos que realizan un reconocimiento de patrones y en base a esto pueden analizar las estadísticas, datos, y también predecir situaciones. También se creó la IA generativa que reconstruye, reproduce contenidos como textos, imágenes, voces, audio, video, entre muchas otras tan real como el usuario que la manipula lo desee. Sin embargo, este modelo también puede crear desde cero nuevos datos totalmente artificiales y crear nueva información lo que produce mucho miedo ya que puede afectar personas, organizaciones y gobiernos.

Estos son algunos de los principales riesgo que la empresa de tecnología ESET indentificó:

Privacidad del usuario

Para la generación de contenido la Inteligencia Artificial requiere de gran cantidad de datos por lo que ESET recomienda a las aplicaciones y sitios web que se apeguen a una normativa legal del Parlamento Europeo como lo es la GDPR, Reglamento General de Protección de Datos, que actualmente incluye una sección para la IA.

Pobre moderación de contenidos

Apps, sitios webs y redes sociales como TikTok se lavan las manos legalmente ya que no se hacen responsables por el contenido que suban los usuarios a sus plataformas, como publicaciones hechas por terceros. Esto puede crear conflicto con los derechos de autor de una persona.

Incluso existe un sitio web que te permite clonar la voz de cualquier celebridad.

Se presta para hacer fraudes

Con la IA generativa los piratas informáticos y estafadores tienen nuevos juguetes para hacer sus engaños más creíbles, pueden suplantar la identidad e alguien su voz, su imagen, hacer videos, y así crear perfiles falsos en las redes sociales. Imagínense una persona que sea víctima de fraude, extorsión catfishing, o que desea encontrar pareja por aplicaciones como Tinder o Grindr y pueda salir robada. Realmente las posibilidades son infinitas.

Si deseas saber otras cosas acerca de Apps de citas visita este enlace: Las 8 mentiras más utilizadas por estafadores en redes sociales, Tinder y Grindr

Infracción de los derechos de autor e imagen

La IA Generativa puede generar contenido de un actor, actriz o celebridad usando su rosto y voz para fines comerciales sin su consentimiento, por lo que es necesario un contrato que los proteja de la explotación. Las ideas y derechos de autor fueron ignorados por grandes compañías por lo que en EEUU se están aplicando leyes que regulen ambas partes.

Recordemos que en este mismo país en mayo 2023, ocurrió una huelga del Sindicato de Guionistas, por una serie de conflictos y fue secundado tiempo después por el Sindicato de Actores en Hollywood.

Realización de Fake News o noticias falsas

Cada vez es más sencillo hacer que una noticia parezca real y así hacerla viral con información falsa. Esto puede perjudicar a cualquier persona u organización, o peor aún a un nación entera desestabilizando su gobierno. Por eso siempre es recomendable confiar solo en medios reconocidos que ya tienen trayectoria y buena reputación.

El Investigador de Seguridad Informática de ESET Latinoamérica, David González Cuautle, comenta lo siguiente al respecto: “La IA Generativa presenta riesgos particulares que deben abordarse de manera cuidadosa para garantizar su uso ético y seguro. Estos riesgos incluyen desde la moderación del contenido que suben los usuarios, hasta aquel engañoso, sesgado o perjudicial para evitar la manipulación de información.”

Es importante considerar otros aspectos y riesgos

• Filtrado y moderación efectiva: Desarrollar sistemas de filtrado y moderación robustos que puedan identificar y eliminar contenido inapropiado, engañoso o sesgado generado por modelos de IA Generativa. Esto ayudará a mantener la integridad de la información y a prevenir posibles consecuencias negativas.

• Entrenamiento con datos éticos y diversificados: Garantizar que los modelos de IA Generativa se entrenen con conjuntos de datos éticos, imparciales y representativos. La diversificación de los datos contribuye a reducir sesgos y a mejorar la capacidad del modelo para generar contenido más equitativo y preciso.

• Transparencia en la regulación del contenido: Establecer regulaciones que permitan a los usuarios comprender cómo se genera el contenido, el tratamiento que reciben los datos y las implicaciones que puede llegar a tener en caso de no cumplir.

• Evaluación continua de la ética y la calidad: Implementar mecanismos de evaluación continua para monitorear la ética y la calidad del contenido generado. Estos mecanismos pueden incluir auditorías regulares, pruebas de robustez y colaboración con la comunidad para identificar y abordar posibles problemas éticos.

• Educación y conciencia pública: Promover la educación y la conciencia pública sobre los riesgos asociados con la IA Generativa. Fomentar la comprensión de cómo funcionan estos modelos y cuáles son sus posibles impactos permitirán al usuario participar activamente en la discusión y en la exigencia de prácticas éticas por parte de los desarrolladores y empresas.

Redacción Zigmaz / NP