În flăcări Tehnologie publicată actualizată acum 1 h

Specialistul Nate Soares renunță la economii pentru pensie, convins că AI ar putea distruge omenirea în 10 ani; experţi avertizează despre riscuri biologice ale AI

Nate Soares, preşedintele Machine Intelligence Research Institute şi fost inginer la Google şi Microsoft, spune că nu mai economiseşte pentru pensie deoarece estimează o probabilitate mare ca inteligenţa artificială să ameninţe omenirea în următorii 10 ani. Articolul prezintă şi avertismente ale experţilor că AI poate facilita cercetări biologice periculoase, menţionând cazuri raportate la Anthropic, un experiment MIT şi cercetări Stanford/Arc Institute privind proiectarea de secvenţe virusale care infectează bacterii; specialiştii subliniază însă că informaţia oferită de AI nu echivalează…

Pe scurt

  • Nate Soares (preşedintele MIRI, fost inginer Google şi Microsoft) a declarat că a încetat să mai economisească pentru pensie, anticipând un risc major din partea AI în următorii 10 ani.
  • Compania Anthropic a raportat cinci cazuri în care utilizatori ar fi încercat să folosească chatbotul pentru activităţi potenţial periculoase legate de virusuri sau toxine.
  • Un experiment MIT arată că persoane fără pregătire au reuşit să obţină informaţii despre agenţi patogeni şi resurse necesare cercetării biologice cu ajutorul unui chatbot.
  • Cercetători de la Universitatea Stanford şi Arc Institute au folosit modele AI pentru a proiecta virusuri care infectează bacterii, demonstraţie cu aplicaţii medicale şi riscuri potenţiale.
  • Experţii subliniază că AI poate facilita accesul la informaţii, dar producerea efectivă a unui agent patogen necesită laborator, materiale şi competenţe practice.
Etichete: inteligență artificială Nate Soares arme biologice Machine Intelligence Research Institute Anthropic Massachusetts Institute of Technology Stanford

Surse (1)

Acest text este un rezumat generat automat din sursele de mai sus; verificați întotdeauna articolele originale.@elseMaterial original publicat de Știri pe foc. Raportează o problemă