Todos los días se escucha hablar sobre cómo la inteligencia artificial (IA) está revolucionando muchos aspectos de la vida diaria como el trabajo y la forma de comunicarnos. La IA tiene sistemas capaces de replicar funciones cognitivas humanas, como razonar, resolver problemas o comprender el lenguaje.
Entre muchas de las plataformas de IA que existen hoy en día, ChatGPT es una de las que ha ganado más popularidad en los últimos años.
En esencia, ChatGPT es una aplicación que funciona como un chat interactivo que permite a los usuarios “conversar” imitando una conversación entre dos personas.
El usuario puede hacer preguntas o hacer solicitudes a la aplicación y esta responderá de acuerdo con la información que ha “aprendido”.
La herramienta también puede hacer preguntas aclaratorias o sugerencias sobre la solicitud que el usuario ha hecho. También puede reconocer y rechazar solicitudes inapropiadas o peligrosas, como información sobre cómo cometer delitos o realizar actos peligrosos.
La herramienta puede utilizarse accediendo a través de la web (chatgpt.com) o descargando la aplicación de manera gratuita en Apple Store o en Google Play, y puede usarse sin crear una cuenta de usuario.
Aunque ChatGPT representa un avance enorme en la IA con varias características que podrían ayudar a acelerar ciertas tareas cuando se usan cuidadosamente, también ha provocado preocupaciones por el potencial de manipulación, desinformación y sesgos.
Además, la creciente dependencia de las herramientas tecnológicas para la toma de decisiones plantea inquietudes sobre su impacto en la creatividad humana, la toma de decisiones y las capacidades cognitivas.
Cómo lo usan algunas trabajadoras del hogar
Varias lectoras de La Alianza compartieron recientemente cómo usan esta herramienta en su vida cotidiana: Margoth Languidey dice que lo utiliza para crear modelos de contratos de trabajo, hacer preguntas políticas o aclarar dudas sobre temas económicos; Rosa Sanluis dice que lo usa cuando quiere enviar un correo electrónico con tono profesional o para redactar un acuerdo; Geo Atx recurre a esta herramienta para escribir correos electrónicos, traducir documentos o para preguntarle sobre temas que desconoce.
Limitaciones y riesgos
Este tipo de sistemas tiene una capacidad limitada de razonamiento: al final, siguen siendo máquinas. Esto significa una menor capacidad para manejar preguntas relacionadas con emociones, valores, creencias y conceptos abstractos.
Algunas de las principales limitaciones son:
- Errores e imprecisiones, lo que se conoce como “alucinaciones”: ChatGPT puede producir respuestas que suenan reales, pero que en realidad son incorrectas o incluso carentes de sentido. Además, no cuenta con la capacidad de verificar la veracidad de lo que genera.
- Riesgo de desinformación y suplantación: El modelo puede ser usado para difundir noticias falsas o para hacerse pasar por otras personas, con las consecuencias que esto implica.
- Sesgos y contenido ofensivo: Al haber sido entrenado con grandes volúmenes de datos de internet, que incluyen sesgos culturales y sociales, sus respuestas pueden reflejar prejuicios o incluso resultar discriminatorias u ofensivas.
- Información desactualizada: El modelo tiene una fecha límite hasta la cual fue entrenado, más allá de la cual su conocimiento no es confiable. Para las versiones recientes, esa fecha de corte es junio de 2024.
- Resultados predecibles y falta de originalidad: Las respuestas tienden a seguir patrones repetitivos, lo que puede derivar en textos poco originales o creativos.
- Impacto en el pensamiento crítico: Investigaciones preliminares, por ejemplo, un estudio del MIT, indican que el uso repetido de estas IA podría reducir el esfuerzo cognitivo, creatividad o pensamiento crítico en ciertos contextos, aunque estos resultados aún no son definitivos.
Recomendaciones para usar ChatGPT con precaución
Si bien ChatGPT puede ser una herramienta poderosa que ahorra tiempo, facilita la generación de ideas y puede ser un aliado para quienes enfrentan barreras lingüísticas, es imperativo tomar medidas para garantizar su uso responsable y seguro. Estas son algunas de las recomendaciones:
- No compartir datos sensibles: Evitar introducir contraseñas, números de identificación personal o información financiera.
- Desactivar el uso de conversaciones para entrenar el modelo y usar chats temporales: En la configuración de ChatGPT, existe la opción “Improve the model for everyone” (Mejorar el modelo para todos) Al desactivar esta opción se evita que las interacciones contribuyan al entrenamiento del sistema.
La herramienta también ofrece la opción de “Temporary Chat” (chat temporal) en la que las conversaciones no se guardan ni se utilizan para el aprendizaje del sistema. En este artículo se explica paso a paso cómo evitar que ChatGPT guarde su información. - Verificar siempre la información crítica: No confiar de forma ciega en las respuestas de la IA: contrastar con fuentes confiables es clave para asegurar la veracidad.
- No utilizar ChatGPT para sustituir a profesionales capacitados: La inteligencia artificial puede servir de apoyo, pero no reemplaza a médicos, abogados, psicólogos ni asesores financieros. Estas decisiones requieren juicio humano y depender solo de la IA implica riesgos serios.
