O clădire de birouri din Berkeley a devenit centrul nervos al unei rețele care avertizează de ani de zile despre ceva foarte specific: că inteligența artificială ar putea duce la dispariția umanității. Spațiul, numit Constellation, reunește cercetători, antreprenori și susținători ai altruismului eficient care au influențat dezbaterile publice despre cultura AI și dezbaterea publică, precum regulament.
Ce este Constellation
Pe site-ul său web, Institutul Constellation se prezintă ca „o organizație nonprofit care lucrează pentru a se asigura că IA transformatoare este dezvoltată, implementată și guvernată în siguranță”. Aceștia avertizează că inteligența artificială poate „conduce o prosperitate umană fără precedent”, dar ne poate conduce și către scenarii catastrofale precum:
- Pierderea permanentă a controlului asupra civilizației umane din cauza inteligenței artificiale.
- Evenimente extreme cu victime în masă sau dispariții umane.
- Înrădăcinarea regimurilor autoritare pe scară largă.
Viitorul pe care îl pictează este foarte neinspirator, motiv pentru care se organizează pentru a reduce riscurile „prin dezvoltarea talentului, sprijinirea actorilor cheie și crearea de spații de coordonare”.
Coworking-ul doomers. O spun în Wall Street Journal. În practică, Constellation funcționează ca un coworking, centru de întâlnire și nod fizic al comunității de „securitate AI”. Este, cu alte cuvinte, sediul în care oamenii care vorbesc cel mai mult despre o cultură sunt influențați de apocalypse și care sunt coordonați de apocalypse. în interiorul unor companii precum Anthropic și în dezbaterea publică privind modul de reglementare a acestei tehnologii.
De unde vine și cine o formează
Constellation s-a născut din subcultura altruismului și raționalismului eficient, o comunitate care s-a concentrat pe avertizarea asupra posibilelor riscuri ale inteligenței artificiale de mai bine de un deceniu. Una dintre figurile principale este Eliezer Yudkowsky, fondatorul Institutul de Cercetare a Inteligenței Mașinilor (MIRI) și creatorul comunității LessWrong. El este, de asemenea, împreună cu Nate Soares, autorul cărții „If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All”.
În acest mediu au fost instruiți mulți dintre primii angajați și co-fondatori ai Anthropic, inclusiv Dario Amodei însuși și sora lui, Daniela Amodei. Frații s-au distanțat de altruismul efectiv după intrarea în închisoare a guru-ului criptomonedei Sam Bankman-Fri.
figuri cheie ale mișcării.Momentul actual
Influența acestei rețele a ieșit în prim-plan în urmă cu câteva săptămâni, când un fost inginer antropic a acuzat laboratoarele de inteligență artificială că „se joacă cu viața noastră”. La scurt timp după aceea, șeful de aliniere al lui Anthropic, Evan Hubinger, a fost de acord cu el și a mărit ansa spunând că el crede că există o șansă de 10% ca AI să ne distrugă pe toți în următorul deceniu. Hubinger are, de asemenea, legături cu această comunitate și chiar a lucrat la MIRI. Wow, totul rămâne acasă.
Imagine | Institutul Constellation
În investigația noastră tehnică | "Trebuie să încetinim ritmul." Dario Amodei avertizează că un AI ar putea prelua controlul asupra internetului în mai puțin de un an