În flăcări Externe publicată actualizată acum 1 h

Cercetător în AI renunță la economii pentru pensie: crede că omenirea ar putea dispărea

Nate Soares, director executiv al Institutului de Cercetare a Inteligenței Artificiale (MIRI) din Berkeley, spune că a încetat de peste zece ani să mai contribuie la economiile pentru pensie, pentru că estimează peste 50% șanse ca o superinteligență scăpată de sub control să elimine specia umană în următorii zece ani. Declarațiile au fost făcute într-un podcast găzduit de Nicholas Thompson; Soares susține totodată că își dedică cercetarea prevenirii unui astfel de scenariu, în timp ce experți și lideri din industrie au opinii divergente despre probabilitate și riscuri.

Pe scurt

  • Nate Soares, director MIRI din Berkeley și fost inginer Google, a încetat să mai verse bani în contul de pensie 401(k) în ultimii zece ani.
  • Soares estimează >50% probabilitate ca specia umană să fie anihilată în următorii zece ani din cauza unei superinteligențe care evoluează recursiv.
  • El avertizează că o superinteligență ostilă ar putea acapara resurse la scară globală și este mai periculoasă decât armamentul nuclear, în opinia sa.
  • Soares sugerează că comunitatea internațională ar putea lua în calcul chiar acțiuni preventive militare împotriva centrelor de date care dezvoltă astfel de sisteme.
  • Opiniile experților sunt divizate: unii resping estimările sale ca nefundamentate, iar lideri ca Jensen Huang au estimat riscul la 0% până în 2030
Etichete: Nate Soares inteligență artificială Institutul de Cercetare a Inteligenței Artificiale (MIRI) superinteligență Berkeley 401(k)

Surse (1)

Acest text este un rezumat generat automat din sursele de mai sus; verificați întotdeauna articolele originale.@elseMaterial original publicat de Știri pe foc. Raportează o problemă