Show -ul meta -documente scurse Facebook folosește chatbot -uri AI pentru a gestiona exploatarea copilului
Un document meta intern scurs a dezvăluit modul în care gigantul social media își formează chatbot -ul de inteligență artificială (AI) pentru a naviga una dintre cele mai sensibile probleme online.
Documentele arată că Facebook, Instagram și WhatsApp se bazează pe AI pentru a face față exploatării sexuale ale copilului pe Platofrms.
Orientările au fost raportate de Business Insider.
Scurgerea sacrifică o perspectivă rară asupra regulilor care reglementează AI -ul Meta, deoarece autoritățile de reglementare intensează controlul lor de tehnologie mare.
Dezvăluirea vine în timp ce Comisia Federală a Comerțului (FTC) investighează Meta, OpenAI și Google pentru a determina modul în care sunt proiectate sistemele lor AI.
FTC investighează dacă platformele protejează în mod adecvat copiii.
La începutul acestui an, Meta s -a confruntat cu reacții, după ce rapoartele au arătat că cartea de reguli anterioară a permis greșit chatbots să se angajeze în conversații romantice cu minorii.
Ulterior, compania a numit incluziunea o „eroare” și a eliminat limba.
Noile orientări interne iau o linie mai grea, necesitând în mod explicit chatbots să refuze orice solicitare de rol sexual care implică copii.
În conformitate cu documentul scurs, regulile încearcă să tragă o linie strictă între „discuții educaționale” și „rol dăunător”.
Chatbot -urile pot furniza informații factuale despre siguranța copilului sau vor raporta probleme.
Cu toate acestea, ei sunt strict interzisă să se angajeze sexualizat sau romantic.
Șeful de comunicații Meta, Andy Stone, a declarat pentru Business Insider că politicile reflectă interdicția de lungă durată a companiei asupra rolului sexualizat care implică minori, subliniind că, de asemenea, sunt în vigoare.
Hawley apasă Zuckerberg
Revelațiile vin într -un moment politic sensibil.
În august, senatorul Josh Hawley (R-MO) a cerut ca META CEO să marcheze Zuckerberg să predea o carte de reguli interne de 200 de pagini care guvernează comportamentul chatbot, împreună cu manualele de aplicare.
Meta inițial a ratat termenul limită, învinovățind o „problemă tehnică”, dar de atunci a început să se transforme în materiale.
Hawley a fost unul dintre cei mai vocali critici ai Congresului sau tehnologii mari, acuzând companii precum Meta sau prioritizând creșterea și profitul cu privire la siguranța copilului.
Extinderea AI crește mize
Scrutinul coincide cu apăsarea Meta de a țese AI în viața de zi cu zi.
La evenimentul său Meta Connect 2025, compania a prezentat noi produse bazate pe AI, inclusiv ochelari inteligenți Ray-Ban cu afișaje încorporate și integrare îmbunătățită de chatbot.
Cu cât tehnologia o încorporează mai profund în comunicarea zilnică, cu atât este mai mare preocuparea dacă garanțiile vor ține pasul.
Revelațiile evidențiază atât progresul, cât și riscul.
În timp ce Meta a strâns restricțiile ca răspuns la critici, faptul că cadrul său anterior a permis chatbots -ului să simuleze inamplează subliniază ceea ce criticii văd ca fragilitatea garanțiilor Big Tech.
Deocamdată, autoritățile de reglementare, jurnaliști și grupuri de pază completează decalajul de responsabilitate.
Dar, pe măsură ce Meta și rivalii săi extind produsele AI în case și săli de clasă, presiunea de a asigura protecții puternice pentru copii este probabil să se intensifice doar.
Citește mai mult – Planul de avansuri al guvernului din Marea Britanie Planul de a mandat ID -ul digital pentru toți copiii
