¿Por qué no debemos confiar en ChatGPT?

ChatGPT no solo ha llamado la atención por buscar ser un competidor de búsqueda para Google, su supuesta habilidad para redactar textos, prácticamente de cualquier tipo, encendió las alertas entre los creadores de contenido, investigadores y académicos sobre su riesgo y cómo es que podría impactar en la vida de las personas.

Paul Adepoju, community manager del Centro Internacional de Periodismo (ICFJ, por sus siglas en inglés) describió cómo es que intentó introducir ChatGPT como herramienta para su quehacer periodístico, pues también cubre fuentes de ciencia y realiza un Newsletter que envía de forma masiva.

“Al momento de solicitar explicar y simplificar términos que algunos investigadores emplean, realmente no funciona”.

Sin embargo, el problema más grande viene después, cuando se le solicita un apoyo más específico sobre datos que contribuyan a generar textos con información específica.

“Hay una falta de claridad en los temas, en especial cuando son temas científicos, la herramienta se limita a dar lo que encuentra en internet, pero muchas veces es erróneo”.

En diciembre pasado, Sam Altman, CEO de OpenAI, la empresa responsable de ChatGPT dijo: “Es increíblemente limitado, pero lo suficientemente bueno en algunas cosas como para crear una impresión engañosa de grandeza (…) Es un error confiar en él para algo importante en este momento”.

Y tiene razón, al ejercicio de Adepoju se sumó el de Jenna Burrell, directora de investigación en Data&Society.

“Le pedí una lista de especialistas sobre desperdicios electrónicos en un país específico de África y me arrojó varios nombres”, sin embargo, asegura que al realizar una consulta sobre el origen de los supuestos especialistas “resultaron falsos, ninguno existía”.

Jenna Burrell asegura que, al menos por ahora, es muy arriesgado utilizar ChatGPT como una herramienta de apoyo, “prácticamente hay que verificar todo”.

Sin embargo, señala que como herramienta de entretenimiento puede valer la pena, “puede ser divertido ver cómo se comporta.

“Le falta mucho el sentido humano, la experiencia humana no existe, cuando uno pregunta ‘en lenguaje humano’ espera una respuesta ‘en lenguaje humano’” y detalla que justamente al leer textos realizados por el bot carecen de sentido social.

“Para tratar de determinar si algo ha sido escrito por un ser humano o por una IA, hay que estar atentos a la ausencia de experiencias o emociones personales, buscar incoherencias en el estilo de escribir y observar el uso de palabras de relleno o frases repetitivas. Estos pueden ser indicios de que el texto fue generado por una IA”, respondió la semana pasada ChatGPT cuando se le preguntó cómo descubrir la diferencia.

Otro tema que Burrell pone sobre la mesa es el de derechos de autor. “Realmente ahorita saca información de donde le sea posible, en ocasiones sin citar fuentes, entonces las leyes al respecto de los derechos de autor también tienen que voltear a ver lo que sucede en estos casos”.

Un David sin Goliat

Paul Adepoju quiso utilizar ChatGPT como una opción a Google, y entonces le solicitó escribir un texto en chino. El bot contestó que solo podría hacerlo en inglés.

“Entonces, peguemos un texto en chino y pidámosle que lo traduzca”, tras varios minutos no hubo respuesta, simplemente no apareció nada en la pantalla.

“De pronto pareciera que se les olvida que existe Google Translate, además, en lo personal, llevo tres años estudiando japonés y sigo haciendo consultas por la dificultad del idioma. En el caso de que ChatGPT pudiera realizar la traducción, cómo saber si es realmente correcta, tendría que volver a confirmar, simplemente estaría desperdiciando tiempo”, señaló Jenna Burrel.