En el ambicioso objetivo de abordar los daños que causa el contenido falso en las redes sociales y los sitios web de noticias, los científicos de datos se están volviendo creativos.
Mientras aún están en su etapa de aprendizaje, los grandes modelos de lenguaje (LLM) utilizados para crear chatbots como ChatGPT están siendo reclutados para detectar noticias falsas. Con una mejor detección, los sistemas de verificación de noticias falsas con inteligencia artificial pueden ser capaces de advertir y, en última instancia, contrarrestar los daños graves causados por las deepfakes , la propaganda , las teorías conspirativas y la desinformación .
Las herramientas de inteligencia artificial de siguiente nivel personalizarán la detección de contenido falso y nos protegerán de él. Para dar este salto definitivo hacia una inteligencia artificial centrada en el usuario, la ciencia de datos debe recurrir a la neurociencia y la ciencia del comportamiento.
Un trabajo reciente sugiere que no siempre sabemos conscientemente que nos encontramos con noticias falsas. La neurociencia está ayudando a descubrir lo que está sucediendo inconscientemente. Los biomarcadores como la frecuencia cardíaca, los movimientos oculares y la actividad cerebral parecen cambiar sutilmente en respuesta al contenido falso y real. En otras palabras, estos biomarcadores pueden ser «señales» que indican si nos han engañado o no.
Por ejemplo, cuando los humanos miramos rostros, los datos de seguimiento ocular muestran que buscamos frecuencias de parpadeo y cambios en el color de la piel causados por el flujo sanguíneo. Si esos elementos parecen poco naturales, nos pueden ayudar a decidir que estamos viendo un deepfake. Este conocimiento puede darle una ventaja a la IA: podemos entrenarla para que imite lo que buscan los humanos, entre otras cosas.
La personalización de un verificador de noticias falsas con inteligencia artificial toma forma mediante el uso de hallazgos de datos de movimiento ocular humano y actividad eléctrica cerebral que muestran qué tipos de contenido falso tienen el mayor impacto neuronal, psicológico y emocional, y para quién.
Al conocer nuestros intereses específicos, nuestra personalidad y nuestras reacciones emocionales, un sistema de verificación de datos con inteligencia artificial podría detectar y anticipar qué contenido desencadenaría en nosotros la reacción más severa. Esto podría ayudar a determinar cuándo las personas son engañadas y qué tipo de material las engaña con mayor facilidad.
Contrarrestar los daños
El siguiente paso es personalizar las medidas de seguridad. Para protegernos de los daños que causan las noticias falsas es necesario crear sistemas que puedan intervenir, algún tipo de contramedida digital contra las noticias falsas. Hay varias formas de hacerlo, como etiquetas de advertencia, enlaces a contenido creíble validado por expertos e incluso pedir a las personas que intenten considerar diferentes perspectivas cuando lean algo.
Nuestro propio verificador de noticias falsas con inteligencia artificial personalizado podría diseñarse para brindar a cada uno de nosotros una de estas contramedidas para cancelar los daños del contenido falso en línea.
Esta tecnología ya se está probando. Investigadores en los EE. UU. han estudiado cómo interactúan las personas con un verificador de noticias falsas personalizado de publicaciones en redes sociales. El sistema aprendió a reducir la cantidad de publicaciones en un canal de noticias a las que consideraba verdaderas. Como prueba de concepto, otro estudio que utilizó publicaciones en redes sociales adaptó contenido de noticias adicional a cada publicación en los medios para alentar a los usuarios a ver perspectivas alternativas.
Detección precisa de noticias falsas
Pero, independientemente de si todo esto suena impresionante o distópico, antes de dejarnos llevar quizá valga la pena plantearnos algunas preguntas básicas.
Gran parte, si no todo, del trabajo sobre noticias falsas, deepfakes, desinformación y desinformación resalta el mismo problema al que se enfrentaría cualquier detector de mentiras.
Existen muchos tipos de detectores de mentiras, no solo la prueba del polígrafo. Algunos dependen exclusivamente del análisis lingüístico. Otros son sistemas diseñados para leer los rostros de las personas para detectar si están filtrando microemociones que delaten que están mintiendo. Del mismo modo, existen sistemas de inteligencia artificial diseñados para detectar si un rostro es genuino o una falsificación.
Antes de que comience la detección, todos debemos estar de acuerdo en cómo se ve una mentira para poder detectarla. De hecho, las investigaciones sobre el engaño muestran que puede ser más fácil porque se puede indicar a la gente cuándo mentir y cuándo decir la verdad. De esta manera, se tiene alguna forma de saber la verdad antes de entrenar a un humano o a una máquina para que distinga la diferencia, porque se les proporcionan ejemplos en los que basar sus juicios.
Para saber qué tan bueno es un detector de mentiras experto, es necesario saber con qué frecuencia dice una mentira cuando la hay (acierto). Pero también es importante que no confunda a alguien con la verdad cuando en realidad está mintiendo (error). Esto significa que necesita saber cuál es la verdad cuando la ve (rechazo correcto) y no acusar a alguien de mentir cuando estaba diciendo la verdad (falsa alarma). Esto se refiere a la detección de señales, y la misma lógica se aplica a la detección de noticias falsas, que se puede ver en el diagrama a continuación.
Para que un sistema de IA que detecte noticias falsas sea extremadamente preciso, los aciertos deben ser muy altos (digamos, 90 %) y, por lo tanto, los errores deben ser muy bajos (digamos, 10 %), y las falsas alarmas deben mantenerse bajas (digamos, 10 %), lo que significa que las noticias reales no se consideran falsas. Si nos recomiendan un sistema de verificación de datos con IA o con humanos, en función de la detección de señales, podemos entender mejor lo bueno que es.
Es probable que haya casos, como se ha informado en una encuesta reciente, en los que el contenido de las noticias puede no ser completamente falso o verdadero, sino parcialmente exacto. Lo sabemos porque la velocidad de los ciclos de noticias significa que lo que se considera exacto en un momento, puede resultar más tarde inexacto, o viceversa. Por lo tanto, un sistema de verificación de noticias falsas tiene mucho trabajo por delante.
Si supiéramos de antemano qué es una noticia falsa y qué es una noticia real, ¿qué precisión tendrían los biomarcadores a la hora de indicar inconscientemente cuál es cuál? La respuesta es no muy precisa. La actividad neuronal suele ser la misma cuando nos encontramos con noticias reales y falsas.
Cuando se trata de estudios de seguimiento ocular, vale la pena saber que existen diferentes tipos de datos recopilados a partir de técnicas de seguimiento ocular (por ejemplo, el tiempo que nuestros ojos permanecen fijos en un objeto, la frecuencia con la que nuestros ojos se mueven a través de una escena visual).
Así pues, dependiendo de lo que se analice, algunos estudios muestran que dirigimos más atención cuando vemos contenidos falsos, mientras que otros muestran lo contrario .
¿Ya llegamos?
Los sistemas de detección de noticias falsas basados en inteligencia artificial que existen en el mercado ya utilizan información de la ciencia del comportamiento para ayudarnos a detectar y advertirnos sobre contenido de noticias falsas. Por lo tanto, no será difícil que los mismos sistemas de inteligencia artificial comiencen a aparecer en nuestros canales de noticias con protecciones personalizadas para nuestro perfil de usuario único. El problema con todo esto es que aún tenemos mucho terreno básico por cubrir para saber qué funciona, pero también para verificar si lo queremos.
En el peor de los casos, solo vemos las noticias falsas como un problema en línea como una excusa para resolverlo mediante inteligencia artificial. Pero el contenido falso e inexacto está en todas partes y se discute fuera de línea. No solo eso, no creemos por defecto todas las noticias falsas, a veces las usamos en discusiones para ilustrar malas ideas.
En el mejor de los casos, la ciencia de datos y la ciencia del comportamiento están seguras de la magnitud de los diversos daños que pueden causar las noticias falsas, pero incluso en este caso, las aplicaciones de inteligencia artificial combinadas con la magia científica podrían seguir siendo sustitutos muy pobres de soluciones menos sofisticadas, pero más eficaces.
Fuente: The Conversation
Articulo original:
Título: How close are we to an accurate AI fake news detector?
Autor: Magda Osman