El boom de la inteligencia artificial ha impactado fuertemente a la sociedad, trayendo beneficios y facilidades para la vida cotidiana de las personas y para las operaciones de las empresas. Entre estas nuevas tecnologías se encuentra ChatGPT, que es utilizada para una variedad de propósitos en diversos sectores, desde la creación de textos, historias y poemas, ademas de procesos judiciales y recomendaciones médicas. ChatGPT también es capaz de proporcionar instrucciones detalladas, divididas y ordenadas en etapas lógicas sobre diversas áreas y actividades, lo que puede ayudar considerablemente a estudiantes, profesionales principiantes o incluso experimentados que deseen automatizar o agilizar actividades cotidianas, repetitivas o de cualquier otra naturaleza.
El impacto de la inteligencia artificial: Beneficios y riesgos
Esta herramienta basada en el modelo de lenguaje natural GPT-3 (Generative Pre-trained Transformer 3), de OpenAI, es un modelo de lenguaje de gran escala (LLM, por sus siglas en inglés), que funciona con información de datos textuales, para que así pueda generar respuestas coherentes o preguntas en lenguaje natural. Sin embargo, junto con los beneficios traídos por ChatGPT, también existen riesgos asociados a su manejo.
Uno de los principales riesgos es el de privacidad y confidencialidad, ya que el método (no supervisado) y la cantidad de datos utilizados en el uso de este servicio pueden generar riesgos para la privacidad y confidencialidad de la información. El modelo puede aprender a partir de datos que contengan información confidencial o sensible sobre personas y empresas, lo que podría ser usado para componer una respuesta de ChatGPT a cualquier pregunta donde ese contenido sea coherente.
Otro riesgo asociado es el de ciberseguridad. Una persona malintencionada con poco o ningún conocimiento en programación, puede pedir a ChatGPT que escriba un script que explote una vulnerabilidad conocida. También pueden solicitar una lista con opciones de posibles métodos de explotación de esa vulnerabilidad, mientras que un tercer individuo puede solicitar una lista de las vulnerabilidades conocidas de una aplicación, protocolo o tecnología en particular.
Creación de noticias falsas: El riesgo de la desinformación
Además, existe el riesgo de la creación de noticias falsas (Fake News), ya que el servicio tiene la capacidad de producir historias convincentes, si se dispone de la información y el contexto adecuados. Esto puede convertirse en “verdades” para quienes las reciben y los impactos pueden ser enormes. Las noticias falsas pueden perjudicar la reputación de alguien, o incluso acabar con una marca o empresa, pueden influir en situaciones políticas e incluso causar daño físico o la muerte de personas.
También existe el riesgo de resultados sesgados o incorrectos, ya que la inteligencia artificial puede “inventar” información y presentarla como factuales a lo que se denomina “Alucinación de IA”. Por los motivos dichos anteriormente, ChatGPT también puede presentar respuestas sesgadas, parciales, ofensivas e incluso agresivas, como ya ha ocurrido con otras herramientas basadas en IA.
Es fundamental que los desarrolladores y usuarios estén conscientes de los riesgos y que se implementen medidas adecuadas de protección para garantizar que los datos estén adecuadamente protegidos y que el servicio sea utilizado de manera ética.
