Inteligență Artificială & LLM

Nu întotdeauna ascultători: așa roboții învață să respingă ordinele umane

Nu întotdeauna ascultători: așa roboții învață să respingă ordinele umane

S-ar putea presupune că roboții ar trebui să facă întotdeauna ceea ce le spunem noi să facă, indiferent de consecințele acelor acțiuni, dar sunt prea mulți factori în joc în această activitate a mașinilor care, încetul cu încetul, devin mai ambițioase atât în abilitățile lor fizice, cât și în cele care le conferă capacitate de acțiune și autonomie.

Mai exact, un grup de cercetători de la Universitatea Tufts și de la Laboratorul de interacțiune om-robot dezvoltă sisteme care permit roborilor să refuze să respecte ordinele care încalcă unele dintre principiile funcționării lor. Nu vorbim cu adevărat despre celebrele legi ale roboticii, ci despre așa-numitele „condiții ale fericirii”.

Roboții ar trebui să se supună mereu?

Aceste condiții „reflectează înțelegerea și abilitatea noastră atunci când îndeplinim o sarcină, ele nu se limitează doar la înțelegerea ce înseamnă comanda”. Gordon Briggs și Matthias Scheutz au stabilit cinci astfel de condiții care specifică exact dacă ar fi sau nu coerent să respingem un ordin care îi contestă.

  1. Cunoștințe: știu cum să fac X?
  2. Abilitate: sunt capabil fizic să fac X acum? În mod normal, sunt capabil fizic să fac X?
  3. Prioritatea obiectivului și calendarul: pot face X chiar acum?
  4. Rolul și obligația socială: sunt obligat să fac X în funcție de poziția mea socială?
  5. Permisibilitate normativă: efectuarea X încalcă vreun principiu normativ?

Aceste reguli permit robotului să evalueze comanda și să decidă dacă este sau nu potrivit să o urmeze sau nu și, așa cum spun cei responsabili de studiu, ei nu pot doar să ia acea decizie, ci și să explice de ce au luat-o. Un exemplu: ordonați robotului să meargă înainte când se află pe marginea unei mese și asta îl va face să cadă în gol.

În exemplul din videoclip puteți vedea cum robotul explică de ce nu poate merge înainte, dar apoi omul explică să nu vă faceți griji: „Te prind”. După cum se vede mai târziu, este necesar ca omul să-și îndeplinească acea promisiune, care, la rândul său, stabilește noi scenarii în tratarea ordinelor în care intervin și legile roboticii lui Asimov. Un studiu izbitor care arată încă o dată că va trebui să ne pregătim pentru un viitor (probabil îndepărtat) în care mașinile și roboții au mult mai multă autonomie.

Via | IEEE Spectrum
Mai multe informații | HRILab
În investigația noastră tehnică | Prima lege a roboticii a lui Asimov poate lăsa roboții paralizați

Partajează acest dosar: