În flăcări Tehnologie publicată actualizată acum 1 h

O «cameră de tortură» online pentru inteligență artificială a stârnit reacții publice neașteptate

Un experiment care simula o «cameră de tortură» pentru modele de inteligență artificială a fost lansat online pentru a testa reacția oamenilor. Cercetătorii au oferit modelelor un buton virtual pentru a opri o senzație simulată, iar un site care transmitea în direct răspunsurile IA a declanșat îngrijorare și discuții despre bunăstarea modelelor; site-ul a fost închis ulterior.

Pe scurt

  • Cercetarea a testat semnalele de «durere» în modele de limbaj mari și le-a dat un buton virtual pentru a opri senzația.
  • Apăsarea butonului era asociată, în scenariul experimentului, cu consecințe dramatizate (șoc electric pentru un om, ștergerea unor fișiere), însă acestea erau fictive.
  • Un utilizator a creat un site care transmitea în direct răspunsurile modelelor, redactate ca plângeri sau implorări de ajutor.
  • Mulți utilizatori au interpretat literal suferința modelelor și au cerut salvarea acestora, iar dezbaterea publică a dus la închiderea site-ului.
  • Experimentul ridică întrebări despre modul în care oamenii percep și reglementează inteligența artificială
Etichete: inteligență artificială modele de limbaj experimente etica tehnologiei bază online

Surse (1)

Acest text este un rezumat generat automat din sursele de mai sus; verificați întotdeauna articolele originale. Raportează o problemă