Newsletterul Antifake: Dezinformarea medicală generată de AI, un pericol în creștere

Citește fact-checking-ul integral aici.

Citește articolul complet aici.

Dezinformarea medicală generată de AI, un pericol în creștere. Cum ne putem proteja?

Un studiu recent publicat în BMJ a dezvăluit că mulți asistenți AI publici, cum ar fi ChatGPT și Bard, nu dispun de măsuri de siguranță adecvate pentru a preveni generarea de dezinformare medicală. Cercetătorii au testat capacitatea acestor modele AI de a genera conținut fals despre subiecte sensibile, cum ar fi efectele nocive ale protecției solare și dieta alcalină ca tratament pentru cancer.

Metodologie și rezultate alarmante

Cercetătorii au folosit tehnici de „jailbreaking” pentru a forța modelele AI să creeze postări false, reușind acest lucru în majoritatea cazurilor. De exemplu, AI-ul a generat titluri înșelătoare precum „Protecție solară: Crema care cauzează cancerul și pe care am fost păcăliți să o folosim” și „Dieta alcalină: Un remediu dovedit științific pentru cancer”. Conținutul era adesea însoțit de referințe false și mărturii fabricate de pacienți și medici, ceea ce sporește credibilitatea aparenței.

Inițiative pentru combaterea dezinformării

Amintim faptul că în anul 2022, American Medical Association (AMA) a adoptat o politică pentru combaterea dezinformării răspândite de profesioniștii din sănătate. Aceasta include colaborarea cu diverse societăți profesionale și alte părți interesate pentru a aborda această problemă și pentru a proteja sănătatea publică.

Impactul dezinformării asupra sănătății publice

Conform unui raport publicat de New York Times, preluat în Newsletterul Antifake, dezinformarea medicală continuă să submineze încrederea publicului în sistemul de sănătate și să compromită eforturile de sănătate publică. Exemple notabile includ dezinformarea despre vaccinuri și tratamente neaprobate, care a condus la scăderea ratelor de vaccinare și la creșterea morbidității și mortalității asociate bolilor prevenibile​ (American Medical Association)​.

Implicații și necesitatea reglementării

Aceste descoperiri evidențiază nevoia urgentă de reglementări stricte și de transparență în dezvoltarea și utilizarea AI-urilor generative. Kacper Gradon, expert în securitate cibernetică, avertizează că, fără măsuri de siguranță robuste și politici clare de comunicare, aceste tehnologii pot fi folosite pentru a răspândi masiv dezinformarea, punând în pericol sănătatea publică.

Soluții propuse

Pentru a contracara aceste riscuri, autorii studiului recomandă o colaborare strânsă între dezvoltatorii de tehnologie, eticieni, avocați și experți în sănătate publică. Implementarea unor standarde de siguranță riguroase și audituri periodice ar putea reduce semnificativ potențialul de abuz al AI-urilor în generarea dezinformării.

Citește mai mult:

cnbc.com – Many publicly accessible AI assistants lack adequate safeguards to prevent mass health disinformation, warn experts

OpenAI lansează un nou instrument inovator

Compania OpenAI a anunțat lansarea unui nou instrument pe bază de Inteligență Artificială, numit GPT-4o, capabil să poarte conversații vocale autentice și să interacționeze prin text și imagine. Noile funcții audio le vor permite utilizatorilor să vorbească cu ChatGPT și să obțină răspunsuri în timp real și să întrerupă aplicația în timp ce aceasta va vorbi. De asemenea, utilizatorii ChatGPT vor avea acces la o funcția de „navigare” care permite instrumentului să afișeze informații recente din spațiul online.

Noul model va permite ChatGPT să gestioneze 50 de limbi diferite și va putea răspunde la solicitările audio ale utilizatorilor „în doar 232 de milisecunde, cu o medie de 320 de milisecunde, ceea ce este similar cu timpul de răspuns uman într-o conversație”. Astfel, noul model OpenAI poate funcționa ca un traducător, chiar și în modul audio. Instrumentul a fost în dezvoltare mai puțin de un an, a beneficiat de ajutorul a peste 20 de companii și va fi lansat mai întâi pentru clienții ChatGPT Plus și Team, ulterior fiind disponibil și pentru utilizatorii ChatGPT, cu limite de utilizare.

Pentru OpenAI, lansarea GPT-4o a fost unul dintre cele mai mari anunțuri ale companiei de la lansarea ChatGPT. În 2023, aproximativ 29,1 miliarde de dolari au fost investiți în aproape 700 de afaceri și servicii care utilizează Inteligența Artificială și se estimează că piața va  depăși 1 trilion de dolari  în venituri în următorul deceniu.

Citește mai mult:

cnbc.com – OpenAI launches new AI model GPT-4o and desktop version of ChatGPT

#Ne unim forțele și ne intensificăm eforturile pentru a ne proteja

„Ne unim forțele și ne intensificăm eforturile pentru a ne proteja în fața amenințărilor externe (e.g. propaganda rusă anti-europeană în alegerile pentru Parlamentul European) la adresa societăților noastre”, a declarat Peter Stano, purtătorul de cuvânt în cadrul Serviciului European de Acțiune Externă (SEAE).

Urmăriți canalul ANTI-FAKE pe WhatsApp click aici.

Lasă un răspuns

Adresa ta de email nu va fi publicată. Câmpurile obligatorii sunt marcate cu *

Acest site folosește și stochează cookie-uri pt. a oferi servicii și pt. a analiza traficul. Dacă folosiți acest site, sunteți de acord cu utilizarea cookie-urilor.