Newsletterul Antifake: Inteligența Artificială poate anticipa dezinformarea?

Citește fact-checking-ul integral aici.

Citește articolul complet aici.

Google AI Overview, noua funcționalitate disponibilă în SUA, furnizează răspunsuri înșelătoare și eronate

Google a lansat o nouă funcționalitate în SUA care include sumarizări generate de inteligența artificială (AI) în partea de sus a paginii sale de căutare. Această inițiativă a ridicat semne de întrebare în rândurile experților, care sunt îngrijorați de părtinire și dezinformare după ce AI Overview a produs răspunsuri înșelătoare.

Utilizatorii au început să evidențieze numeroase erori evidente. Printre acestea se numără sfaturi periculoase, sugestii absurde și erori istorice. De exemplu, AI a oferit sfaturi incorecte despre ce să faci în caz de mușcătură de șarpe cu clopoței sau un sumar a sugerat utilizarea lipiciului pentru a menține brânza pe pizza, probabil inspirat dintr-o postare de pe Reddit. De asemenea, AI a greșit numărul de președinți ai SUA și a repetat teoria conspiraționistă că Barack Obama ar fi fost musulman. Mai mult, AI are dificultăți în a distinge între fapte și satiră, citând uneori conținut de pe site-uri precum The Onion ca fiind real.

Nu în ultimul rând, noua funcționalitate poate crea un impact semnificativ asupra publicării online. Gartner, o firmă globală de cercetare și consultanță, prognozează o scădere de 25% a volumului motoarelor de căutare până în 2026, iar mulți editori se așteaptă la un declin și mai accentuat al traficului.

Google a declarat că ia măsuri rapide pentru a corecta erorile și că majoritatea sumarizărilor oferite sunt de calitate înaltă.

Citește mai mult aici:

Euronews.com – Google’s new AI summaries tool causes concern after producing misleading responses

CBC.ca – Google research shows the fast rise of AI-generated misinformation

Axios.com – Google’s AI summaries cause headaches and spawn memes

Inteligența Artificială poate anticipa dezinformarea?

În lupta împotriva dezinformării, utilizarea Inteligenței Artificiale poate părea o abordare simplă și tentantă. Totuși, IA nu este încă pregătită pentru această sarcină, având în vedere că polarizarea la nivel social este atât de profundă, încât tot mai mulți oameni ignoră conținutul de tip fact-checking și sunt predispuși să nu aibă încredere într-o tehnologie pentru a efectua verificările complexe.

Ar trebui să înțelegem că dezinformarea nu este despre adevărat vs. fals, mai degrabă este despre modul în care sunt încadrate informațiile pentru a conduce către o concluzie eronată sau o narațiune înșelătoare. Rolul AI în combaterea dezinformării trebuie să adopte o abordare bazată pe narațiuni. O astfel de abordare ar putea implica mai mult instrumente care formează împreună „motoare de anticipare a narațiunilor”. Aceste motoare ar putea (1) să identifice narațiunile dominante, (2) să prognozeze modul în care ar putea evolua acestea pentru a încadra informații/evenimente viitoare și (3) să creeze mesaje pentru a dezminți narațiunile anticipate înainte ca acestea să apară.

Pentru a face acest lucru, sunt necesare mai multe etape în implementare: învățarea automată pe bază de IA care va evalua tendințele în discurs și sentiment și integrarea în modele probabilistice de apariție a evenimentelor și adaptare narativă. IA ar putea crea apoi contra-narațiuni țintite pentru a explica de ce narațiunea anticipată este înșelătoare, folosind strategii precum propunerea de explicații alternative credibile sau recalibrarea emoțiilor. Această abordare trece dincolo de verificarea reactivă a faptelor la modelarea preventivă, recunoscând faptul că activitățile de contra-dezinformarea eficiente trebuie să atace narațiunea, nu informațiile din ele.

Citește mai mult:

diplomaticourier.com – Don’t just use AI to fact check against mis– and disinformation

#Scutul european pentru democrație

„Scutul European pentru Democrație se va concentra pe detectarea dezinformării, deoarece nimic nu este mai puternic decât dezvăluirea felului în care informația este manipulată”, a susținut pe platforma X președinta Comisiei Europene, Ursula von der Leyen. Afirmația acesteia vine în contextul prezentării unor planuri pe care dorește să le pună în aplicare, dacă va fi realeasă în funcția deținută în prezent, unul dintre acestea fiind Scutul European pentru Democrație (European Democracy Shield).

 

Urmăriți canalul ANTI-FAKE pe WhatsApp click aici.

Lasă un răspuns

Adresa ta de email nu va fi publicată. Câmpurile obligatorii sunt marcate cu *

Acest site folosește și stochează cookie-uri pt. a oferi servicii și pt. a analiza traficul. Dacă folosiți acest site, sunteți de acord cu utilizarea cookie-urilor.