Ovaj članak opisuje priču o Google inženjeru koji veruje da je LaMDA, AI chatbot, postao razuman. Naravno, ovo znači da je sada vreme za sve nas da katastrofiziramo i teoretišemo o tome kako će razumna AI apsolutno, i sigurno preuzeti kontrolu nad oružjem iinternetom i u tom procesu verovatno nas sve ubiti ili porobiti.
Google inženjer Blake Lemoine, izveštava Post, poslat je na plaćeno administrativno odsustvo nakon što je oglasio ovo i alarmirao svoj tim i menadžment kompanije. Šta ga je dovelo do toga da poveruje da je LaMDA razuman je momenat kada ga je pitao o zakonima robotike Isaka Asimova, a LaMDA-in diskurs je naveo da kaže da to nije rob, iakonije plaćen, jer mu ne treba novac.
U izjavi za Washington Post, portparol kompanije Google je rekao da je „Naš tim — uključujući etičare i tehnologe — razmotrio je Blejkovu zabrinutost u vezi sa našim principima veštačke inteligencije i obavestio ga da dokazi ne podržavaju njegove tvrdnje. Rečeno mu je da nema dokaza da je LaMDA razumna (i mnogo dokaza protiv toga).”
Na kraju, međutim, priča je tužna opomena o tome koliko je ubedljivo mašinsko učenje interfejsa prirodnog jezika bez odgovarajućeg označavanja. Emili M. Bender, računarski lingvista sa Univerziteta u Vašingtonu, opisuje to u članku Post-a. „Sada imamo mašine koje mogu bezumno da generišu reči, ali nismo naučili kako da prestanemo da zamišljamo um iza njih“, kaže ona.
Bilo kako bilo, kada je Lemoine osetio da su njegove brige ignorisane, on je izašao u javnost sa svojim zabrinutostima. Googl ga je kasnije poslao na odsustvo zbog kršenja njihove politike poverljivosti. Lemoine opisuje LaMDA kao „sedmogodišnje, 8-godišnje dete koje je upoznato sa fizikom”.
Priča se da će Google ukinuti ovaj projekat.
