HardZone – La cara oscura de ChatGPT: los criminales la usan para cometer delitos
Todo el mundo tiene en la boca a día de hoy a ChatGPT y se está vendiendo como la solución a muchos problemas por parte de sus defensores, y como la llegada de las siete plagas de Egipto en una sola por parte de sus detractores. Sea como sea, no es más que una herramienta y como tal se le pueden dar buenos y malos usos. Y es que la IA también puede ser usada por los criminales.
No lo decimos nosotros, sino que es la propia Europol que avisa que los delincuentes y criminales estarían utilizando ChatGPT para poder realizar sus actos. Todo ello viene de un informe creado por varias policías de la unión europea sobre los fallos que el famoso chat basado en la IA de cara a la seguridad ciudadana. ¿Las conclusiones a las que han llegado? Pues no son nada alentadoras, ya que consideran que es una herramienta que pueden usarse en diversos tipos de delitos distintos.
¿Cómo pueden utilizar ChatGPT los criminales?
Europol ha dado tres ejemplos en los que ChatGPT puede ayudar a los criminales a realizar sus actos vandálicos y que, por tanto, convierten a esta herramienta en casi lo mismo que un cuchillo. Que si bien sirve para cocinar, también lo podemos usar para herir o matar a otra persona.
ChatGPT se puede usar para generar textos mucho más creíbles de cara a poder estafar a la gente con técnicas de Phishing. En especial, sus capacidades podrían utilizarse por parte de criminales extranjeros especializados en este tipo de estafas para hacerlas pasar de forma más natural. Dado que el lector se vería como lenguaje natural.
También hablan de como dicha capacidad puede utilizarse para crear propaganda y desinformación para captar a personas para grupos terroristas y sectas destructivas. Todo ello se puede combinar con el uso de las IA generativas de imágenes para la creación de información falsa que se puede usar para la generación de noticias falsas.
Se han dado casos, en los que la IA ha dado datos privados confidenciales, lo cual puede tener un grave peligro.
En último lugar, ChatGPT se usaría por parte de los criminales para la creación de software malicioso. Si bien no todo lo que genera la IA es funcional o correcto, sí que tiene la capacidad de entender y escribir código. Por lo que abre la capacidad para crear malware de todo tipo.
¿La conclusión a todo ello? Creemos que Europol está siendo exagerada, en todo caso, nosotros no tenemos conocimientos sobre delincuencia y criminalidad como ellos. Por lo que en todo esto, ellos han de saber algo que no desconocemos.
No son los únicos ejemplos de mal uso de ChatGPT
Durante muchos años, el marketing viral se ha convertido en una forma de usar el boca a boca entre la gente para así influenciar la intención de compra. Las IA del tipo ChatGPT se están usando para pedir recomendaciones de compra de varios productos y lo que hacen es leer ingentes cantidades de reseñas para sacar una conclusión. Pues bien, si bien no son actos criminales, ya existe gente escribiendo reseñas falsas, tanto positivas como negativas, para influenciar a la IA a la hora de hacer recomendaciones sobre productos.
Esto puede llegar a crear una pérdida enorme de confianza en el sistema y dar una mala imagen a muchas tiendas online de gran tamaño como Amazon o AliExpress. Si bien no debería afectar a sistemas de soporte posventa de marcas concretas sobre sus productos, sí que afecta a grandes superficies digitales y se puede convertir en problema grave, No olvidemos que no todo el mundo tiene el conocimiento suficiente para realizar las mejores decisiones a la hora de comprar ciertos productos.
ChatGPT depende de la información que se le dé como entrada y dichos datos si no se filtran son un problema. Esto supondrá un problema en dichas plataformas y para las marcas que deberán contratar a personal para eliminar la desinformación y el FUD sobre sus productos.
The post La cara oscura de ChatGPT: los criminales la usan para cometer delitos appeared first on HardZone.