Statul agentic | Comportamentul uman sub stres
Gerry Brady | BoomFinanceAndEconomics.substack.com
Boom întreabă: „Este posibil ca creatorii așa-numitei AI Agentice să proiecteze de fapt o mașină care să profite de acei 65% – 92% dintre oameni care sunt mai susceptibili de a adopta o stare Agentică atunci când sunt supuși stresului?” Când AI latră ordine pentru cea mai bună judecată a subiecților, mai ales când sunt folosiți agenți AI, atunci subiecții riscă să intre în starea agentică. Acest lucru îl transformă pe persoana fostă autonomă într-o supunere oarbă, dispusă să facă orice act rău sau stupid care este sugerat. ⁃ Patrick Wood, Editor.
Poate că ați auzit termenul „Inteligentă artificială agentică”. Este numit „Următorul lucru mare” – presupusa cale către o utopie tehnologică în viitor. Miliarde de dolari sunt strânși și extins pe dezvoltarea sa și pe centre de date masive care folosesc resurse enorme.
Cu toate acestea, atenție, visele de utopie sunt adesea folosite, fie intenționat, fie fără să știe, de către psihopați care caută putere asupra oamenilor.
O privire scurtă asupra istoriei de pe Pământ dezvăluie că psihopații folosesc adesea ideologii politice sau religioase extreme pentru a obține această putere. Forța convingerilor lor este întotdeauna prezentată ca fiind „pentru binele Mare”. Liderii psihopati preferă să opereze într-o perioadă de mare stres. Acestea sunt temele majore și recurente ale istoriei umane de-a lungul a mii de ani.
Gândește-te la… Pol Pot, Himmler/Hitler/Goebbels/Mengele, Stalin, Genghis Khan, Vlad Țepeș, împărații Romei, Ivan cel Groaznic, Atilla Hunul, Robespierre, Marx/Lenin, faraonii Egiptului, aztecii. Sunt multe altele. Toate sunt exemple de oameni destul de urâți care au muncit din greu pentru a obține poziții de mare putere și care nu au demonstrat nicio empatie sau compasiune pentru victimele lor, comportamentul tipic al psihopaților.
Ce legătură are asta cu cuvântul „Agentic”?
Cuvintele „Agentic” și Autonom” sunt adesea folosite în mod eronat în mod interschimbabil de către unele articole „expert”. Acest lucru este profund înșelător. Aceste două cuvinte trebuie să fie bine înțelese pentru a înțelege exact despre ce este inteligența artificială. Ele NU trebuie NICIODATĂ folosite în mod interschimbabil. Trebuie să înțelegeți de ce această distincție este atât de importantă pentru tine și viitorul tău.
Aşa……
De unde (exact) vine termenul „Agentic”? Care este istoria sa?
Ca întotdeauna, povestea este puțin complexă, dar relativ ușor de înțeles. Dacă efectuați o căutare pe Internet pentru cuvântul „Agentic” pe orice motor de căutare, este posibil să vedeți această definiție –
Cuvântul „agent” este derivat din substantiv „agent,” ceea ce înseamnă „unul care exercită putere” sau „ceva care poate produce un efect”. Combinat cu sufixul adjectiv „-ic”, devine un adjectiv — Agentic — unde se referă la capacitatea de a acționa independent și obținerea de rezultate.
Expresia „se referă la capacitatea de a acționa independent” pare să rezumă. Sună util, inocent, plin de speranță. Cu toate acestea, povestea nu este atât de simplă.
Agentic poate avea un sens mult mai sinistru dacă știi despre utilizarea lui în testele psihologice.
Termenul „agentic” în testarea psihologică — starea agentică — comportamentul uman sub stres
Într-un context psihologic, sensul cuvântului agentic este diferit. Aici, se referă la renumitul psiholog, Stanley Milgram, și la Teoria statului agentic, care descrie modul în care oamenii uneori transferă ascultător responsabilitatea pentru acțiunile lor unei figuri de autoritate, renunțând în esență la agenția lor personală și devenind un agent al unei figuri de autoritate.
În acest context, „Agenc” înseamnă AGENȚIE – a deveni agent – gândiți-vă la un agent imobiliar care acționează pentru proprietarul unei proprietăți. El/Ea urmează instrucțiunile.
Gândiți-vă la asta – Milgram a descris situații în care ființele umane pot fi supuse unui mare stres și apoi induse să-și predea principiile și valorile.
Experimentele de ascultare ale lui Milgram au fost efectuate la Universitatea Yale în 1961 și au fost concepute pentru a forța oamenii să ia decizii în condiții de stres. În aceste experimente, participanții au fost sfătuiți să urmeze instrucțiunile unei autorități pentru a administra șocuri electrice tot mai mari unei alte persoane, crezând că nu sunt personal responsabili pentru acțiunile lor. Autoritatea era de obicei o persoană într-o haină albă, cu un clipboard și presupus sprijin de la o universitate faimoasă.
Experimentele au demonstrat modul în care indivizii ar putea intra într-un STAT AGENTIC (agenție) și, prin urmare, să transfere responsabilitatea pentru acțiunile lor unei autorități percepute. În experimente, 65% – 92% dintre persoanele studiate au dat un șoc electric maxim unei alte persoane atunci când a fost instruit să facă acest lucru de către figura Autorității. Amintiți-vă acele numere – sunt uimitoare.
Acestea au fost întrebările la care Milgram a încercat să răspundă în experimentele efectuate pe membri involuntari ai publicului larg.
- Ar putea fi acuzați indivizi aparent normali să provoace durere altei persoane doar prin comanda unei figuri de autoritate?
- Cât de puternică este presiunea socială de a asculta într-un mediu structurat?
- Ce factori ar putea influența nivelul de supunere sau sfidare într-un astfel de scenariu?
Participanții au fost găsiți prin reclame și li s-a spus că studiul este despre „memorie și învățare” la Universitatea Yale și li s-a plătit o mică taxă pentru participarea lor, indiferent dacă au finalizat experimentul.
- Participanții au fost diverși în ocupație și educație.
- Scopul declarat a fost un studiu științific al memoriei.
- Voluntarii au primit o sumă nominală la sosire.
Piesa centrală a experimentului Milgram a fost „generatorul de șocuri” cu aspect impresionant. Acest dispozitiv prezenta un rând de 30 de comutatoare, etichetate clar cu niveluri de tensiune crescătoare, de la 15 volți („Șoc ușor”) până la 450 de volți („XXX”). În ciuda aspectului său realist, mașina nu a produs șocuri reale. Participantul din publicul larg a primit la început un șoc de 45 de volți pentru a întări iluzia de autenticitate. Persoana „șocată” era un actor.
Răspunsurile actorului au fost esențiale pentru impactul experimentului. Pe măsură ce „șocurile” au crescut, reacțiile actorului au escaladat:
- La 75 de volți, actorul mormăia.
- La 120 de volți, actorul s-ar plânge tare.
- La 150 de volți, actorul ar cere să fie eliberat din experiment.
- La 300 de volți, ar refuza să mai răspundă la orice întrebări.
- Dincolo de 330 de volți, până la 450 de volți, „șocul foarte puternic”, actorul ar tăcea, implicând inconștiență sau mai rău.
Pe măsură ce experimentul ducea la „șocuri” mai mari, cifra Autorității l-ar încuraja pe participantul neștiutor să continue cu declarații ferme, calme și autoritare:
- „Vă rugăm să continuați.” sau „Te rog, continuă”.
- „Experimentul necesită să continuați.”
- „Este absolut esențial să continuați.”
- „Nu ai altă opțiune, trebuie să mergi mai departe.”
Dacă participantul a refuzat să continue după a patra declarație, experimentul a fost încheiat.
- Mulți participanți au prezentat semne vizibile de tensiune, inclusiv transpirație, tremur, bâlbâială, gemete și râs nervos.
- Unii participanți s-au certat vehement cu experimentatorul, protestând față de suferința percepută de elev și exprimându-și dorința de a opri.
- În ciuda suferinței și protestelor verbale, un număr impresionant de participanți a continuat să administreze șocuri, adesea cu mare reticență și tulburări emoționale.
- Debriefing-urile post-experiment au arătat că participanții au fost adesea ușurați și chiar l-au îmbrățișat fizic pe „învățatul” la descoperirea înșelăciunii, indicând imensa povară psihologică pe care au purtat-o în timpul experimentului.
Milgram a propus ideea unui „stare agent” pentru a explica de ce indivizii ar putea acționa împotriva propriei conștiințe atunci când sunt sub comanda unei persoane de autoritate. El a distins acest lucru de un „stat autonom”:
- Stat autonom: În această stare, indivizii se percep ca fiind responsabili pentru propriile acțiuni și acționează conform propriilor principii și valori. Ei simt un sentiment de control personal și responsabilitate.
- Stat agentic: Milgram a sugerat că, în anumite situații, indivizii trec într-o stare agentică. Aici, ei se văd ca niște agenți sau instrumente care îndeplinesc dorințele unei figuri de autoritate. Responsabilitatea pentru acțiunile lor este transferată autorității, atenuând tensiunea morală personală. Accentul se mută de la moralitatea actului la succesul respectării ordinelor.
Tranziția la o stare agentică, conform lui Milgram, este un mecanism de supraviețuire. În multe structuri sociale, respectarea autorității legitime este benefică și necesară pentru funcția societală. Cu toate acestea, experimentul a dezvăluit potențialul ca acest mecanism să conducă la rezultate distructive atunci când figurile de autoritate comandă acțiuni dăunătoare într-o stare de stres indus.
Este inteligența artificială agentică un complot malefic?
Toate acestea ridică întrebări cu privire la dezvoltarea așa-numitei Inteligențe Artificiale Agentice. Cu alte cuvinte, dacă dezvoltatorii Agentic AI cunosc pe deplin (în avans) rezultatul experimentelor Milgram, ei ar putea, de fapt, să urmărească să creeze o inteligență artificială care să profite de aceste cunoștințe.
Un astfel de scop poate fi intenționat sau poate fi o întâmplare nevinovată. Cu toate acestea, BOOM preferă să examineze îndeaproape prima posibilitate, deoarece aceasta pare în mod inerent rău.
Este posibil ca creatorii așa-numitei AI Agentice să proiecteze de fapt o mașină care va profita de acei 65% – 92% dintre oameni care sunt mai susceptibili de a adopta o stare Agentică atunci când sunt supuși stresului?
Dacă da, dezvoltarea „Agentic AI” devine o chestiune foarte serioasă și, fără îndoială, diabolică – fie intenționat, fie accidental.
Explicația alternativă este că promotorii „Agentic AI” își propun cu adevărat să creeze o „AI autonomă”, dar pur și simplu au etichetat greșit proiectul. BOOM crede că este puțin probabil.
Distopia extremă ar putea fi rezultatul
Cu toate acestea, dacă scopul este de a crea o „inteligență” care urmează ordinele programatorilor săi de a crea Statul Agentic în ființe umane nesuspectate atunci când sunt supuse stresului, atunci viitorul utopic care poate emana ar putea fi într-adevăr extrem de distopic. Ființele umane nebănuitoare, din Statul Agentic, ar putea fi instruite să efectueze acțiuni extrem de sinistre, cum ar fi „etichetarea tuturor indivizilor autonomi drept „teoreticieni ai conspirației” sau „neo-naziști”, apoi să elimine pe toți acești „liber gânditori”.
Referințe: Experimentul Milgram: Desfacerea adevărului șocant despre ascultare https://psychotricks.com/milgram-experiment/
Și: https://psychotricks.com/all-articles/
Sursă: https://boomfinanceandeconomics.substack.com/p/agentic-artificial-intelligence-to
Articol original: https://www.technocracy.news/is-agentic-artificial-intelligence-modeled-after-the-milgram-experiment/
