[ad_1]
Pionier sztucznej inteligencji Geoffrey Hinton twierdzi, że coraz trudniej jest odróżnić filmy, głosy i obrazy wygenerowane za pomocą tej technologii od materiału rzeczywistego — ma jednak pomysł, który może pomóc w tej walce.
Nasilona walka przyczyniła się do zmiany poglądu brytyjsko-kanadyjskiego informatyka, niedawnego laureata Nagrody Nobla, w przekonaniu, że świat mógłby zająć się fałszywymi treściami.
„Przez chwilę myślałem, że będziemy w stanie oznaczyć rzeczy jako generowane przez sztuczną inteligencję” – powiedział Hinton w poniedziałek podczas inauguracyjnych wykładów Hinton.
„Myślę, że teraz bardziej prawdopodobne jest rozpoznanie, że rzeczy są prawdziwe, pobierając z nich kod, odwiedzając niektóre strony internetowe i widząc na nich te same rzeczy”.
Hinton przemawiał podczas pierwszego z dwudniowych wykładów Hinton Lectures w Global Risk Institute, które odbyły się w tym tygodniu w John WH Bassett Theatre w Toronto.
Hinton, często nazywany ojcem chrzestnym sztucznej inteligencji, na krótko pojawił się na scenie, aby przypomnieć widzom litanię zagrożeń, przed którymi ostrzega społeczeństwo, jakie stwarza ta technologia. Uważa, że sztuczna inteligencja może powodować lub przyczyniać się do przypadkowych katastrof, bezrobocia, cyberprzestępczości, dyskryminacji oraz zagrożeń biologicznych i egzystencjalnych.
Powiedział, że metoda etykietowania pozwoli zweryfikować, czy treści nie są fałszywe, i uważa, że może być szczególnie przydatna w przypadku politycznych reklam wideo.
„Możesz mieć w nich coś w rodzaju kodu QR (przenoszącego Cię) do strony internetowej, a jeśli na tej stronie znajduje się identyczny film, wystarczy, że będziesz wiedzieć, że ta witryna jest prawdziwa” – wyjaśnił Hinton.
Jak wynika z kwietniowej ankiety przeprowadzonej wśród 2501 Kanadyjczyków przez Dais, organizację zajmującą się polityką publiczną na Toronto Metropolitan University, większość Kanadyjczyków zauważyła deepfake w Internecie, a prawie jedna czwarta spotyka się z nimi co tydzień.
Deepfake to cyfrowo zmanipulowane obrazy lub filmy przedstawiające sceny, które nie miały miejsca. Najnowsze deepfake’i przedstawiają papieża Franciszka w puchowej kurtce Balenciagi oraz gwiazda popu Taylor Swift w pozach o charakterze jednoznacznie seksualnym.
Na konferencji prasowej zorganizowanej po wydarzeniu Hinton opowiedział więcej o tym, co zrobił ze swoją połową z 1,45 miliona dolarów, które on i badacz z Uniwersytetu Princeton, John Hopfield, otrzymali po otrzymaniu Nagrody Nobla w dziedzinie fizyki na początku miesiąca.
Hinton powiedział, że przekazał połowę swojej części nagrody na rzecz Water First z Creemore w Ontario, organizacji szkolącej społeczności tubylcze w zakresie opracowywania i zapewniania dostępu do systemów bezpiecznej wody.
Początkowo rozważał przekazanie części pieniędzy aktorowi organizacji wodnej, z którą Matt Damon jest związany w Afryce, ale potem powiedział, że jego partner zapytał go: „A co z Kanadą?”
To doprowadziło Hintona do odkrycia Najpierw Woda. Powiedział, że był zmuszony przekazać darowiznę na ten cel ze względu na potwierdzenia dotyczące gruntów, które słyszy na początku wielu wydarzeń.
„Myślę, że to wspaniale, że rozpoznają (kto pierwszy żył na lądzie), ale nie powstrzymuje to rdzennych dzieci od biegunki” – powiedział.
Hinton powiedział wcześniej, że część jego wygranych zostanie również przekazana organizacji zapewniającej pracę młodym dorosłym o zróżnicowanym poziomie neurorozwojowym.
„Zmartwiony pesymista”
Większą część wieczoru, nawet w poniedziałek, poświęcono przemówieniu Jacoba Steinhardta, adiunkta w dziedzinie elektrotechniki, informatyki i statystyki na Uniwersytecie Kalifornijskim w Berkeley w Kalifornii.
Steinhardt powiedział publiczności, że jego zdaniem sztuczna inteligencja będzie rozwijać się jeszcze szybciej, niż wielu się spodziewa, ale po drodze będą niespodzianki.
Wyobraża sobie, że do 2030 r. sztuczna inteligencja będzie „nadludzka” w matematyce, programowaniu i hakowaniu.
Uważa również, że duże modele językowe, na których opierają się systemy sztucznej inteligencji, mogłyby stać się zdolne do perswazji i manipulacji.
„Istnieją znaczne możliwości, jeśli ktoś miałby spróbować wyszkolić (ich) umiejętność przekonywania, być może jest to pozbawiona skrupułów firma lub rząd, któremu zależało na przekonaniu swoich obywateli” – stwierdził Steinhardt. – Jest wiele rzeczy, które możesz zrobić.
Powiedział publiczności, że postrzega siebie jako „zmartwionego optymistę”, który wierzy, że istnieje 10% szans, że technologia doprowadzi do wyginięcia ludzkości i 50% szans, że przyniesie ona ogromną wartość gospodarczą i „radykalny dobrobyt”.
Zapytany na późniejszej konferencji prasowej o etykietę „zmartwionego optymisty” Steinhardta, Hinton nazwał siebie „zmartwionym pesymistą”.
„Istnieją badania pokazujące, że jeśli zapytać ludzi o oszacowanie ryzyka, to normalni, zdrowi ludzie zdecydowanie nie doceniają ryzyka związanego z naprawdę złymi rzeczami… a ludzie, którzy właściwie oceniają ryzyko, mają lekką depresję” – stwierdziła Hinton.
„Uważam się za jednego z nich i myślę, że ryzyko jest nieco wyższe, niż sądzi Jacob (Steinhardt) – powiedzmy około 20 procent”.
[ad_2]
Source link