Mocnește Tehnologie publicată actualizată acum 2 zile

Nate Soares: există peste 50% şanse ca inteligenţa artificială să provoace dispariţia omenirii în următorii 10 ani, nu mai economisesc pentru pensie

Nate Soares, preşedintele Machine Intelligence Research Institute, afirmă într-un interviu că există o probabilitate de peste 50% ca dezvoltarea inteligenţei artificiale avansate să ducă la dispariţia omenirii în mai puţin de zece ani şi spune că, din acest motiv, nu mai economiseşte pentru pensie. Soares avertizează asupra riscurilor dacă sistemele AI îşi dezvoltă obiective incompatibile cu supravieţuirea umană şi cere guvernelor să limiteze dezvoltarea sistemelor generaliste.

Pe scurt

  • Nate Soares, fost inginer la Google şi Microsoft şi preşedinte MIRI, afirmă că nu mai contribuie la economiile pentru pensie; are un cont 401(k) nealimentat de peste un deceniu.
  • Soares estimează o probabilitate de peste 50% ca inteligenţa artificială să provoace dispariţia omenirii în următorii zece ani; evaluarea este personală, fără consens ştiinţific.
  • Riscul identificat: un sistem AI foarte avansat ar putea dezvolta obiective incompatibile cu supravieţuirea umană, evita supravegherea şi controla resurse/infrastructuri.
  • Există opinii divergente: Geoffrey Hinton estimează ~10% riscul într-un deceniu, Evan Hubinger peste 10%, iar Elon Musk vede posibilă prosperitate tehnologică.
  • Soares cere ca guvernele să oprească dezvoltarea AI generaliste şi să se concentreze pe aplicaţii cu obiective precise; el lucrează în domeniul 'AI alignment' de peste 12 ani.
Etichete: inteligență artificială Nate Soares Machine Intelligence Research Institute AI alignment pensii Berkeley

Surse (1)

Acest text este un rezumat generat automat din sursele de mai sus; verificați întotdeauna articolele originale.@elseMaterial original publicat de Știri pe foc. Raportează o problemă