Amprenta Digitală

Amprenta Digitală: Halucinațiile AI, un obstacol sau o problemă rezolvată?

Posted on noiembrie 1, 2023 by eurocomunicare

Termenul de „halucinații AI” reprezintă momentele în care inteligența artificială, prin intermediul chatbot-urilor precum ChatGPT și Google Bard, generează informații false. Halucinațiile pot fi abateri de la fapte reale, de la logica contextuală sau chiar ambele. „Confabulație” este un alt termen utilizat atunci când discutăm despre o „halucinație AI”.

Aceste halucinații pot fi credibile deoarece modelele de inteligență artificială au fost proiectate astfel încât să poată genera texte coerente. Chiar și așa, deseori pot genera rezultate care sunt lipsite de sens. Pe lângă conținuturi sub forma unor texte, „halucinațiile AI” pot apărea și în conținuturi în format vizual (imagine, video), dar și audio. La ora actuală, din cauza informațiilor greșite pe care le poate genera, halucinațiile sunt cea mai mare provocare în dezvoltarea inteligenței artificiale.

Totuși, Iris.ai, o companie cu sediul în Oslo, a dezvoltat o metodă inovatoare pentru a reduce semnificativ halucinațiile AI. Soluția promovată de aceștia se bazează pe evaluarea exactității informațiilor generate de AI, iar mai apoi compararea acestora cu surse verificate. Iris.ai utilizează, de asemenea, o metrică proprie pentru a evalua similaritatea semantică a răspunsurilor AI cu adevărul verificat, acoperind astfel structura și informațiile cheie.

Cu toate acestea, problema rămâne parțial nerezolvată, deoarece utilizatorii cu cunoștințe limitate pot interpreta greșit rezultatele AI. De exemplu, o persoană care efectuează o căutare AI ar putea să nu aibă cunoștințe profunde despre subiectul cercetat și ar putea interpreta greșit informațiile primite. Până când laguna cauzată de „halucinațiile AI” nu va fi complet rezolvată, pot fi urmărite progrese semnificative în direcția potrivită. Acestea aduc mai multă transparență și fiabilitate în utilizarea inteligenței artificiale.

Citește mai mult:

https://thenextweb.com/news/ai-hallucinations-solution-iris-ai

https://www.techtarget.com/whatis/definition/AI-hallucination

Articole asemănătoare:

Tehno Impact: Germania a înființat o agenție pentru consolidarea securității ciberneticeluni august 31, 2020

Newsletterul Green ANTI-FAKE: Stațiile de metrou – printre cele mai poluate locuri din marile orașevineri februarie 10, 2023

Psihologia dezinformării: Scrolling-ul obsesiv. Este cazul să mă opresc?luni august 16, 2021

Fact checking-ul săptămânii: Afirmații trunchiate, la baza unei narațiuni conspiraționiste despre va...luni iulie 12, 2021

Amprenta Digitală: Cronologia atacurilor cibernetice asupra Ucraineimiercuri aprilie 13, 2022

Pe urmele fake-ului: Războiul împotriva dovezilor științifice: armata falșilor experțiluni august 10, 2020

Newsletter-ul ANTI-FAKE: Avansul rapid din domeniul IA deschide calea pentru „roboții sociali”vineri iulie 14, 2023

Newsletterul Antifake: Atenție la fraudele online din perioada sărbătorilor!miercuri decembrie 20, 2023