Materiale ce arată minori în timp ce sunt abuzați sexuali, produse cu ajutorul tehnologiei inteligenței artificiale, sunt comercializate pe Internet, relevă o investigație publicată de BBC.
Pedofilii obțin beneficii materiale de pe urma imaginilor produse de AI, pe care le pun la dispoziția unor persoane dispuse să plătească abonamente pentru ele.
Una dintre platformele pe care au fost descoperite astfel de cazuri este Patreon, care susține în documentele publice că are o politică de „toleranță zero” pentru imaginile cu conținut explicit publicate pe site-ul său.
BBC citeză GCHQ, agenția guvernamentală de informații, securitate și cibernetică din Marea Britanie, care a transmis că „infractorii interesați de abuzuri sexuale asupra copiilor adoptă toate tehnologiile și unii cred că viitorul materialului de abuz sexual asupra copiilor se află în conținutul generat de inteligență artificială”.
Producătorii imaginilor de abuz folosesc un software AI numit Stable Diffusion, care a fost destinat să genereze imagini pentru a fi utilizate în artă sau design grafic. AI permite computerelor să îndeplinească sarcini care necesită de obicei inteligență umană.
Software-ul Stable Diffusion permite utilizatorilor să descrie, folosind mesaje de cuvinte, orice imagine pe care o doresc - iar programul creează apoi imaginea.
Dar BBC a descoperit că este folosit pentru a crea imagini realiste ale abuzurilor sexuale asupra copiilor, inclusiv ale violului asupra bebelușilor și copiilor mici.
Reacția Patreon
Mai multe cazuri de acest fel sunt investigate deja de echipele specializate în abuzurile sexuale online asupra copiilor din Marea Britanie.
Un reprezentant al Consiliului șefilor de poliție națională, Ian Critchley, a explicat că, deși în producerea acestor tipuri de imagini niciun copil nu are de suferit, crearea și distribuția lor reprezintă un pericol social.
El a avertizat că un pedofil ar putea „să treacă pe acea scară a jignirii de la gândire, la practică, la abuzul de fapt asupra unui copil viu”.
Platforma prin care unii dintre creatorii acestor tipuri de imagini obțin bani, Patreon, este estimată la aproximativ patru miliarde de dolari și este destinată creatorilor de conținut, care distribuie materiale exclusive, contracost, abonaților.
Jurnaliștii BBC au descoperit conturi Patreon care oferă spre vânzare imagini obscene foto-realiste, generate de AI, cu copii, cu niveluri diferite de preț în funcție de tipul de material solicitat.
Unul a scris pe contul său: „Îmi antrenez fetele pe computerul meu”, adăugând că ele arată „supunere”. Pentru 8,30 dolari pe lună, un alt utilizator a oferit „artă exclusivă necenzurată”.
„Creatorii nu pot finanța conținut dedicat temelor sexuale care implică minori”, a transmis Patreon.
Compania a spus că creșterea conținutului dăunător generat de inteligență artificială pe internet este„reală și supărătoare”, adăugând că a „identificat și eliminat cantități tot mai mari” din acest material.
„Deja interzicem materialele sintetice de exploatare a copiilor generate de inteligență artificială”, a transmis Patreon.