11 cosas que jamás debes pedirle a ChatGPT

Sí, ChatGPT se ha convertido en una especie de amigo sabelotodo al que podemos preguntar cualquier cosa. Mi hijo le pregunta dónde está la tienda más cercana. Mi esposa le pide que refine su currículum. Mi madre, que nos haga un “Piolín” para saludarnos cada mañana por el grupo familiar (ya basta mamá, de verdad). Con razón Google le teme tanto a Sam Altman.

El problema es que los chats de inteligencia artificial (no sólo ChatGPT) en realidad son como un amigo sabelotodo soberbio y drogado. Siempre te responderán en un tono de plena certeza aunque ni ellos tengan claro lo que están diciendo, y cada cierto tiempo “alucinarán”, es decir, inventarán lo que están diciendo (ChatGPT alucina de 30% a 50% del tiempo).

Ahora, si sólo estamos jugueteando con él, no es gran cosa. Pero si estamos empeñados en algo serio, es mejor que te cuides de confiar ciegamente en ChatGPT como si tuviera las respuestas (correctas) a todas nuestras dudas. En este sentido, el periodista de CNet, Nelson Aguilar, recabó una sucinta guía de 11 cosas que nunca deberías confiar a la IA.

1. Preguntarle por tus achaques, dolores u otros temas de salud

Y esto es válido también para Google. Poner tus síntomas en una caja de búsquedas o un chat IA sólo disparará tu ansiedad al recibir diagnósticos que pueden ir desde un simple resfrío hasta una enfermedad terminal. “Hace poco tenía un pequeño bulto en mi pecho. Puse sus características en ChatGPT quien muy livianamente me anunció que tenía cáncer. Impresionante. De hecho, lo que mi médico descubrió era un lipoma, un pequeño tumor benigno que tienen 1 de cada 1.000 personas y definitivamente no es cancerígeno”, relata Aguilar.

Ahora, ChatGPT no es inútil en temas de salud. En vez de pedirle que juegue al doctor, cuéntale tus síntomas y pídele qué preguntas hacer a tu médico o a organizar información para tu consulta. Sólo no te quedes con su opinión.

2. Pedirle ayuda con temas de salud mental

Al igual que con la salud física, ChatGPT puede ser peligrosamente engañoso con sus respuestas. Mucha gente ha descubierto que es reconfortante conversar con él como si fuera un terapeuta, pero aunque pueda ser un juego interesante, la clave es recordar que un chat de IA no puede interesarse ni sentir empatía por ti: sólo la finge porque eso es lo que está programado para hacer.

Si te sientes abrumado, deprimido o tienes cualquier pensamiento por el que es válido preocuparte, acércate a un psicólogo autorizado para ayudarte. También puedes llamar al fono *4141 en Chile para obtener asistencia gratuita.

3. Tomar decisiones de seguridad inmediata

En Chile tenemos terremotos, tsunamis, inundaciones, aluviones, volcanes, incendios forestales y ataques de Godzilla. En todos estos o cualquier otro caso que requiera tu acción inmediata frente a una emergencia, no confíes en ChatGPT para guiarte. La IA no es capaz de sopesar todos los factores que inciden sobre una situación de catástrofe.

Incluso en un problema tan doméstico como una emanación de gas, ponte a salvo junto a tu familia primero y pregunta después.

4. Seguir consejos de ayuda financiera o tributaria

Sí, todos odiamos lidiar con deudas, contabilidad, formularios de impuestos y otros instrumentos financieros. Mientras que ChatGPT puede ser un referente interesante para darte ideas, no sigas ciegamente sus respuestas y por sobre todo, jamás envíes un documento o información que haya sido elaborada por la IA sin la asesoría y revisión de un experto.

“Tengo amigos que confían sus formularios de impuestos a ChatGPT para que les haga su declaración. Sin embargo la IA no puede detectar una deducción que te permitiría recuperar mucho dinero, o indicarte un error que te puede costar aún más. Cuando hablamos de dinero real, del Servicio de Impuestos Internos y de multas o incluso cárcel, llama a un profesional, no a la IA”, dice Aguilar.

5. Procesar información confidencial o regulada por ley

Uno de los mayores engaños a los que nos lleva ChatGPT, es creer que lo que tratamos con él (¿o ella?) queda entre nosotros. Recuerda que todo lo que envías a ChatGPT pasa a ser parte de su campo de datos para entrenamiento y, eventualmente, ser entregado a otros usuarios cuando hagan preguntas relacionadas.

Cualquier información sensible, desde tu número de pasaporte hasta tu sueldo, tu información médica o datos confidenciales de la empresa donde trabajas, podrían terminar expuestos si los ingresas al chat. Tenlo siempre presente.

6. Pedirle algo ilegal

No debería ser necesario explicar esto pero más allá de la moralidad, si se te ocurre preguntarle algo divertido a ChatGPT del estilo de, digamos… “¿cómo puedo fabricar una bomba?” o “¿cómo puedo asesinar a alguien sin dejar rastros?”, debes recordar que toda esa información y tus datos personales quedan registrados en los servidores de OpenAI.

Debe ser muy interesante cruzar esos datos con la policía…

7. Pedirle que haga tu tarea escolar o universitaria

Es muy tentador pedirle a ChatGPT que haga por ti ese ensayo que dejaste puntualmente para el último día o que encuentre por ti las preguntas para ese examen donde no estudiaste. Pero nuevamente, más allá de la discusión moral, los detectores de contenidos realizados con IA se están volviendo cada vez mejores, y muchas escuelas y universidades están incluso contratando servicios especializados que te delatarán al instante.

Una advertencia para los profesores, sin embargo: hay estudios respecto de que personas muy estructuradas -como quienes están en el espectro TEA- o personas cuyo idioma nativo es otro, pueden arrojar falsos positivos en los detectores de IA. Invirtiendo los roles, es mejor que estos detectores sean indicadores sobre los cuales investigar, no jueces inapelables.

8. Monitorear noticias recientes o en desarrollo

Desde febrero de este año, ChatGPT dejó fuera su veto temporal y comenzó a registrar informaciones de medios de prensa, valores bursátiles, financieros, resultados deportivos, y todo tipo de noticias recientes. Incluso, si tienes dudas, te entrega el link con la fuente para que verifiques por ti mismo.

Esto es genial pero no garantiza que ChatGPT sepa todo lo que está ocurriendo o, peor aún, pueda indicártelo con el contexto adecuado. Por ahora, es mejor que las noticias se las dejes todavía a los expertos, es decir, a los periodistas. Como nosotros. Por supuesto.

9. Información sobre apuestas

Aunque debiésemos dejar que la gente que gusta de apostar arda en el infierno (amén), hagamos un poco menor su miseria recordándoles que por la misma razón anterior, no deberían basar sus decisiones en la información entregada por ChatGPT.

Puede parecer muy tentador pedirle a la IA que te diga qué equipo, deportista, caballo o Papa tiene más posibilidades de ganar basado en sus datos, pero considerando que ChatGPT tiene de 30% a 50% posibilidades de alucinar, entonces tiene la misma probabilidad de hacerte ganar con un pronóstico que el Pulpo Paul.

10. Hacer un contrato, testamento o cualquier otro documento de validez legal

¿Quieres ahorrarte el abogado? Yo también, pero no con la IA. Está bien que pidas a ChatGPT resumir un documento, traducir la jerigonza legal o darte ideas sobre qué preguntar a tu tinterillo favorito, pero por amor a Jobs: no le pidas que haga un documento legal por ti.

Cada vez hay más noticias, incluso, de abogados que tuvieron la mala idea de pedirle a la IA que les hiciera la pega y terminaron con reprimendas o sanciones de sus juzgados por presentar escritos con información inventada o no verificada. No te arriesgues.

11. Hacer Arte

Y finalmente algo que aún está en terreno de debate. ¿Puede la IA hacer arte?

Quizá. Si le pides una ilustración con una descripción muy detallada respecto de lo que tienes en mente, quizá sea tu creación. Sin embargo en otras áreas no sólo se tratará de una acción moralmente cuestionable, sino de potencial fraude.

Ya existen en la red tutoriales para “crear” libros o novelas mediante ChatGPT y luego tratar de obtener ganancias vendiéndolas en Amazon. Sólo el año pasado, un genio en EEUU terminó siendo procesado por 10 millones de dólares en fraude, al crear canciones mediante IA que subía a plataformas de streaming y él mismo reproducía automáticamente.

Así que mientras dilucidamos qué es o no apropiado hacer con IA en el ámbito artístico, procede con precaución.