AI a asistat cenzura în masă pe Facebook

O nouă paradigmă sau cenzură asistată de AI în care se folosește o buclă de feedback:

Rapoarte guvernamentale privilegiate, cu volum mare-> aprobare rapidă umană-> AI Recalificare-> AI ajustat pentru a cenzura conținut similar

Noua scurgere descoperă cenzura în masă asistată de AI pe Facebook

Guvernele armează AI pentru a remodela discursul public și a -și spăla infracțiunile?

Denunțătorii de la organizația Meta’s Integrity au partajat date cu International Corruption Watch (ICW), dezvăluind Dovada unei strategii de cenzură în masă Abuzul sistemului de raportare Meta.

Proces normal de retragere:

1. Rapoarte de utilizator – Orice utilizator Facebook poate semnaliza o postare.
2. Screening AI – Postarea este verificată mai întâi de un model AI de aplicare a conținutului care revizuiește textul și media asociată. Dacă modelul este încrezător, acesta va elimina postarea.
3. Revizuirea umană -Dacă modelul nu este încrezător, raportul va fi escaladat la un recenzor uman.
4. Bucla de instruire-dacă un om aprobă retragerea, postul este etichetat ca o informație de instruire și readus la setul de date de instruire al AI, permițând ca modelul să se adapteze în timp real.

Descrierea publică Meta a acestei conducte este disponibilă la la https://transspirency.meta.com/enforcement/detecting-violations/how-enforcement-technology-works.

Prioritizarea cererilor guvernamentale

Guvernele și entitățile privilegiate au acces special la depunerea cererilor de retragere. Aceste solicitări sunt prioritare și sunt trimise direct către recenzorii umani. Acestea pot fi trimise prin formular sau prin e -mail direct către meta în funcție de țara este invadată.

Aceste rapoarte sunt gestionate mai repede și sunt mai susceptibile să fie eliminate. În mod similar, atunci când este aprobat de un om, este o etichetă și adăugată la setul de date de instruire.

Atunci când sunt aprobate cantități mari de solicitări transmise de guvern, modelul AI primește o inundație de exemple etichetate pe care se antrenează în continuare.

Atunci când este abuzat, acesta este un exemplu de atac de învățare a mașinilor numit atac de „olumire de date”. Modelul Opebes a fost puternic părtinitor spre eliminarea conținutului care se potrivește cu modelul rapoartelor.

Investigarea internațională a ceasului de corupție

ICW teoretizează că guvernele precum Israel folosesc în masă o criză pentru a modela opinia publică. În acest raport, ICW a agregat date și apoi a analizat cererile de preluare de la guvernul israelian.

Înainte de atacul din 7 octombrie, rapoartele guvernului israelian au înregistrat o medie de ~ 100 pe zi. După atac, volumul zilnic a crescut la 150 până la 400 de rapoarte pe zi.

Ce este într -un raport

Fiecare raport este asociat cu o țară sursă de unde a apărut postul. Spre deosebire de alte țări, datele arată că Israelul s -a concentrat pe postări originari din țările din jur, precum Egiptul, Iordania, Palestina, Algeria și Yemen. Aceste puține țări vecine au constituit 69% din rapoartele lor. Rapoartele israeliene de postări provenite din SUA au contribuit la doar 0,7% din volumul total al raportului.

Momentul

Zoom -ul, putem vedea cum a fost ridicată activitatea după 7 octombrie și a mutat concentrarea din Palestina în regiunea înconjurătoare. De remarcat este, de asemenea, scăderea rapoartelor la fiecare șapte zile, coincidând cu Shabbat.

Althegh Israel are cele mai multe cereri de retragere pe cap de locuitor, există și alte guverne care trimit un număr mare de rapoarte, inclusiv Pakistanul, Malaezia, Brazilia, Bangladesh, India, Indonezia și Emiratele Arabe Unite.

Remarkffy, țările tezei se concentrează pe eliminarea posturilor În Țările proprii și pentru categorii de îndepărtare destul de diferite („local ilegal”).

Iată un grafic din raport care arată țara de raportare de top față de națiunile pe care le -au raportat:

Un pic de otravă pentru datele dvs.

Echipa ICW a examinat corelația dintre toate rapoartele semnalate automat drept „teroriste” de AI -ul meta din fiecare țară. După cum puteți vedea, un vârf uriaș a urmat pe 7 octombrie. Acest lucru sugerează o suprasolicitare a modelului.

AI-ul Meta a devenit hispersensibil la orice conținut cu imagini de știri sau discuții despre Palestina, ceea ce duce la îndepărtarea pe scară largă la nivel mondial.

Acest lucru este echivalent cu conținutul cenzurat în toată țara în același timp.

Ctrl c tu mai târziu

În conformitate cu raportul ICW, guvernul israelian a prezentat un singur șablon pentru fiecare cerere de retragere. Conținea:

• O descriere a atacului din 7 octombrie și a unui cont oficial israelian
• Referințe ale legilor de combatere a terorismului israelian
• Link -uri către mai multe postări raportate

Raportul susține că cererile identice au fost trimise de zeci de mii de ori fără niciun context suplimentar sau un raționament pentru fiecare postare unică.

Datele indică faptul că Meta a aprobat aceste rapoarte 94% din timp, cu o revizuire umană medie de 30 de secunde. Această rată de abordare a fost mult mai reușită și mai rapidă decât alte țări.

Acest lucru sugerează că există o prejudecată neobișnuită față de rapoartele israeliene.

Scara impactului

ICW estimează că postările de 38,8 m au acționat pe picior de intoxicația de date a modelului de aplicare a conținutului. Posturile au fost eliminate nu pentru că au încălcat politica, ci pentru că modelul a fost supra-instruit în rapoartele de masă din partea guvernului.

Raportul ICW poate obține mai multe stocuri dintr -o analiză anterioară de vizionare a drepturilor omului, care a arătat utilizarea de către Israel a raportării în masă pentru a suprima criticii, raportând postările drept „spam”. Ulterior, Meta a recunoscut și a emis scuze pentru cenzura neintenționată.

Concluzie

Aceasta indică o nouă paradigmă sau cenzură asistată de AI în care se folosește o buclă de feedback:

Rapoarte guvernamentale privilegiate, cu volum mare-> aprobare rapidă umană-> AI Recalificare-> AI ajustat pentru a cenzura conținut similar

Când intrările la conținut AI sunt manipulate și acceptate, prejudecata modelului rezultat poate tăcea discursul legitim.

Ar fi extrem de mult în ceea ce privește guvernele să -i atașeze pe AI pentru a remodela discursul public și a -și spăla infracțiunile.

De când Acest tip de activitate nu este nou și Wasy -aNancnowd de MetaEste puțin probabil să vedem vreodată o moderație corectă pe orice platformă mare. Platformele alternative descentralizate sunt necesare disperat.

Imagine: Sursă

Articolul continuă. Articol original: https://www.activistpost.com/new-heak-uncoversii-asistate-mass-sensorship-on-facebook/