Linkuri accesibilitate

Lensa AI și ChatGPT | Avantaje, dar și pericole neștiute. Expert: „Nu se citesc cu atenție termenii de confidențialitate"


Tehnologia artificială folosită de platforme precum Lensa AI sau ChatGPT a intrat în atenția publicului după semnalarea unor probleme de confidențialitate și de etică.

Tehnologia AI devine tot mai avansată, însă experții avertizează despre potențialele pericolele aferente dezvoltării nereglementate în acest domeniu. Părerile sunt împărțite când vine vorba de AI-uri precum cele folosite de Lensa sau ChatGPT. Care sunt riscurile aferente tehnologiei artificiale?  

Aplicația Lensa AI a apărut în 2018, însă a devenită tot mai populară în ultimele săptămânii după lansarea unei noi funcții - „magic avatars”, care le permite utilizatorilor să încarce poze de pe telefon, iar AI-ul le va transforma în diferite stiluri. Utilizatorii au de ales dintr-o gamă largă de opțiuni stilistice, cum ar fi „prințesă” sau „personaj din desene animate”.

Începând cu luna decembrie, popularitatea companiei s-a dublat, ajungând de la două la patru milioane de instalări în magazinele Apple și Google.

Costul aplicației este de 35,99 de dolari pe an, însă există costuri suplimentare pentru funcțiile speciale, cum este pachetul „magic avatars”. Consumatorii au cheltuit 8,2 milioane de dolari pentru aplicația creată de cei de la Prisma Labs.

Compania este înființată de antreprenorii Andrei Usoltsev și Alexei Moiseenkov și își are sediul în Statele Unite. Membri ai echipei Lensa au lucrat în trecut pentru companii rusești cum ar fi Yandex sau Mail.ru.

Problema de confidențialitate a platformei s-a răspândit pe rețelele de socializare. Pentru a genera imagini cât mai avansate, platforma folosește fotografii din colecția LAION, adunate din mai multe colțuri ale internetului fără consimțământul specific al deținătorilor. O artistă din California a găsit chiar poze din istoricul medical în baza de date LAION.

Mai mult, unii artiști au descoperit că platforma a utilizat ilustrațiile create de ei, fără voia lor. Dragoș Stanca, antreprenor specializat în platforme digitale, explică că această problemă apare ca urmare a faptului că oamenii își dau consimțământul fără a citi termenii și condițiile platformelor de socializare, cum sunt Facebook și Instagram.


„De exemplu, o fotografie prelucrată în Lensa și care devine o animație poate fi apoi folosită în scopuri pe care noi nu le mai putem controla”, spune Dragoș Stanca.

El spune că, atunci când ne dăm consimțământul în momentul creări unui cont pe o platformă de socializare, conținutul postat devine deținut de acea platformă.

Știre generată de Inteligența artificială

Europa Liberă a efectuat un experiment, generând, cu ajutorul instrumentului AI ChatGPT, o știre despre avantajele și dezavantajele inteligenței artificiale.

Rândurile de mai jos reprezintă știrea realizată de un chatbot:

În ultimii ani, tehnologia artificială a devenit un subiect tot mai popular în lumea tehnologiei și a cercetării. Avansarea tehnologiei artificiale a adus multe avantaje, de la aparatura care ne ajută la locul de muncă, până la programele de inteligență artificială care ne fac viața mai ușoară. Însă există și dezavantaje pe care nu trebuie să le ignorăm.

Unul dintre avantajele cele mai importante ale tehnologiei artificiale este capacitatea sa de a face lucrurile mai rapide și mai eficiente. De exemplu, un robot poate lucra fără întrerupere și fără a se plictisi, ceea ce înseamnă că poate face mai multe într-un timp mai scurt decât un om.

De asemenea, programele de inteligență artificială pot analiza cantități uriașe de date într-un timp foarte scurt, lucru care poate ajuta la luarea deciziilor în domenii precum finanțele sau sănătatea.

Pe de altă parte, tehnologia artificială poate avea un impact negativ asupra locurilor de muncă. Deși roboții și programele de inteligență artificială ne pot ajuta în multe feluri, acestea pot înlocui oamenii în anumite domenii, lucru care poate duce la șomaj.

Tehnologia artificială poate fi un instrument puternic atât pentru binele nostru, cât și pentru rău. Este important să fim conștienți de avantajele și dezavantajele sale și să luăm măsuri pentru a minimiza impactul negativ al tehnologiei artificiale asupra societății și a indivizilor.

Rândurile de mai sus reprezintă un experiment realizat de jurnaliștii Europei Libere pentru a testa capacitatea AI-ului de a produce o știre.

Prototipul a devenit popular datorită funcțiilor sale avansate și capacității sale de a crea texte extrem de naturale. Poate genera răspunsuri la întrebări, dialoguri și poate crea chiar texte mai lungi, cum ar fi o știre sau un referat.

Experiment cu textul unui CEO de bancă după ce România a primit un vot negativ pentru Schengen

Un experiment similar a fost realizat de Alexandru Negrea, consultant în comunicare, pe LinkedIn. El a făcut o comparație între un text realizat de un CEO al băncii BCR și un text generat automat de ChatGPT.

Textul publicat de Sergiu Cristian Manea și textul generat de AI, ambele despre aderarea României la spațiul Schengen, au fost foarte similare, din punct de vedere al stilistic și al conținutului.

Site-ul ChatGPT, la care a contribuit și Elon Musk înainte de a se retrage parțial din companie, a fost lansat pe 30 noiembrie și se află încă în stadiul de prototip. Utilizatorii își pot crea un cont, ca apoi să folosească robotul fără vreun cost aferent.

ChatGPT folosește limbajul de programare GPT03.5. Tehnologie a fost dezvoltată de OpenAI și a fost „antrenată” cu texte din mai multe surse, astfel încât să „învețe” un limbaj cât mai sofisticat.
ChatGPT folosește limbajul de programare GPT03.5. Tehnologie a fost dezvoltată de OpenAI și a fost „antrenată” cu texte din mai multe surse, astfel încât să „învețe” un limbaj cât mai sofisticat.

Formatul din spatele tehnologiei ChatGPT îi permite sistemului să genereze răspunsuri pornind de la cele mai simple, la cele mai complexe. Printre funcțiile cele mai avansate este capacitatea bot-ului de a genera cod de tip Python sau chiar texte academice avansate.

Antreprenorul Dragoș Stanca este de părere că tehnologia AI este comparabilă cu orice alt tip de descoperire a umanității, însă acest domeniu, spre deosebire de altele, avansează mult mai rapid.

„Inteligența artificială poate fi folosită cu bună credință, în mod etic, sau poate fi folosită cu rea credință”, explică expertul.

Platforma care a fost lansată săptămâna trecută are deja peste un milion de utilizatori, iar Dragoș Stanca spune că au fost deja confirmate situații în care oamenii au folosit AI-ului pentru a genera informații despre fabricarea de explozibili, spre exemplu.

Riscurile aferente acestui tip de tehnologie au intrat în atenția publicului și în trecut, în cazul altor platforme, cum este FaceApp, aplicația care a devenit faimoasă în 2019 pentru funcția de îmbătrânire facială.

Aplicația FaceApp a intrat în atenția publicului acum trei ani datorită funcției care le permite utilizatorilor să „îmbătrânească” pe cineva. Această funcție a fost folosită și pentru a transforma o fotografie a președintelui rus, Vladimir Putin.
Aplicația FaceApp a intrat în atenția publicului acum trei ani datorită funcției care le permite utilizatorilor să „îmbătrânească” pe cineva. Această funcție a fost folosită și pentru a transforma o fotografie a președintelui rus, Vladimir Putin.

Preocupările experților legate de FaceApp au fost legate de originea rusească a aplicației. Conform unei investigații a FBI-ului, pericolele identificate au fost tot legate de confidențialitate. Serviciul de investigație american a transmis că Moscova putea să folosească aplicația pentru a accesa date cu caracter sensibil prin furnizorii serviciilor de internet.

Reglementarea domeniului, Big Tech vs. Uniunea Europeană

Domeniul tehnologic este unul foarte greu de reglementat, spune Dragoș Stanca. Dezvoltările au loc într-un ritm exponențial, iar din punct de vedere tehnico-legislativ, este greu de ținut pasul.

Expertul spune că ChatGPT ar fi trebuit lansat abia în 2025, potrivit proiecțiilor din domeniu, însă a fost lansat mult mai repede, datorită progresului tehnologic rapid. Legislația Uniunii Europene nu poate ține pasul, spune expertul.

„Vedem că viteza cu care se dezvoltă big tech versus capacitatea statelor și a structurilor de reglementare de a rezolva eventuale probleme etice care apar pe parcurs este mult defazată, inclusiv în implementarea GDPR”, spune antreprenorul.

Nu există, în acest moment, posibilitatea ca legislativul să se miște cu viteza cu care se mișcă tehnologia. 
Dragoș Stanca, antreprenor specializat în platforme digitale

Pentru realizarea legii care obligă Google să ofere o parte din veniturile realizate din scanarea și refolosirea imaginilor din mediul online a durat peste 10 ani.

„10 ani în domeniul tehnologiei este o viață”, spune Dragoș Stanca. Pentru a pune lucrurile în perspectivă, de la pornirea discuțiilor despre reglementarea la nivelul Uniunii Europene, până la adoptarea scrisă a unor legi, au apărut aproape 30 de noi modele ale telefonului iPhone.

Expertul avertizează că dacă big tech nu va fi reglementat de legiuitori, domeniul se va reglementa singur. Dacă sectorul își va crea propriile legi, apare riscul ca acestea să fie formulate strict în interesul profitului.

El mai spune că tehnologia artificială ar putea ajuta chiar la scrierea unor noi legi. „S-ar putea să le scrie chiar mai bine decât politicianul mediu român”, spune Dragoș Stanca.

Tehnologia artificială are potențialul de a contura un act normativ care să nu se contrazică cu alte acte normative emise anterior. Acest lucru se datorează faptului că AI-ul poate să sesizeze erorile sau termenii ilogici care apar într-un proiect de lege, pe când un om nu poate face acest lucru cu aceeași ușurință.

Cât de departe poate fi dusă tehnologia?

Dragoș Stanca spune că, AI-urile pe care le avem în momentul de față sunt suficient de avansate încât să scrie chiar și o teză de doctorat. Alternativ, inteligența artificială ar putea prelua un doctorat deja existent, reformulându-l pentru a nu putea fi detectată plagiatura.

Dragoș Stanca este de părere că inteligența artificială ar putea fi folosită chiar și pentru scrierea unei lucrări de doctorat
Dragoș Stanca este de părere că inteligența artificială ar putea fi folosită chiar și pentru scrierea unei lucrări de doctorat

AI-ul, odată instruit să facă acest lucru, va suci, va rescrie și va adăuga paragrafe, astfel încât acestea să genereze un conținut original. „Se poate scrie o lucrare de doctorat, nu o teză extraordinar de remarcabilă, însă una suficient de bună de pus la CV”, spune Dragoș Stanca.

Un astfel de experiment a fost efectuat în trecut, folosind versiune GPT-3 a limbajului de programare folosit de ChatGPT. O cercetătoare suedeză a instruit bot-ul să genereze o lucrare academică

  • 16x9 Image

    Irina Breilean

    Absolventă a Școlii de studii slavone și est europene din cadrul University College London, și-a găsit pasiunea pentru jurnalism după terminarea facultății. În trecut, a lucrat în cercetare, în cadrul think-tankului studențesc Bentham Brooks Institute/University College London.

Unirea Principatelor. Iași 2023
Așteptați
Embed

Nici o sursă media

0:00 0:00:38 0:00
XS
SM
MD
LG