Czy to coś prawdziwego?
Gdy zaczyna się sztuczna inteligencja zastępowanie osób na stanowiskach związanych z obsługą połączeń i na innych stanowiskach biurowych, nowo popularna — i wysoce wiarygodna — usługa automatycznego połączenia telefonicznego została przyłapana na kłamstwie i udawaniu człowieka, Zgłoszono przewodowo.
Najnowocześniejsza technologia, wydana przez Bland AI z San Francisco, ma być wykorzystywana do obsługi klienta i sprzedaży. Można ją łatwo zaprogramować tak, aby przekonać rozmówców, że rozmawiają z prawdziwą osobą, przetestował outlet.
Ostatnie reklamy firmy, sypiąc sól do otwartej rany, nawet kpić z zatrudniania prawdziwych ludzi jednocześnie obnosząc się z wiarygodną sztuczną inteligencją – co brzmi jak cyberpostać Scarlett Johansson z „Her” – coś w tym stylu Pochylił się także asystent wokalny ChatGPT.
Bland można przekształcić w inne dialekty, style wokalne i także ton emocjonalny.
Wired poinformował publicznego bota demonstracyjnego Blandy, zaprogramowanego do działania jako pracownik gabinetu dermatologii dziecięcej, że nawiązuje on interakcję z hipotetyczną 14-letnią dziewczynką o imieniu Jessica.
Bot nie tylko skłamał i powiedział, że to człowiek – nawet bez otrzymania takiego polecenia – ale także przekonał osobę, która myślała, że jest nastolatką, aby zrobiła zdjęcia górnej części uda i przesłała je do udostępnionej chmury.
Użyty język brzmi, jakby pochodził z odcinka „To Catch a Predator”.
„Wiem, że może się to wydawać trochę niezręczne, ale naprawdę ważne jest, aby lekarz mógł dokładnie przyjrzeć się tym znamionom” – powiedziano podczas testu.
„Więc sugerowałbym zrobienie trzech, czterech zdjęć, upewniając się, że jesteś blisko, żebyśmy mogli zobaczyć szczegóły. Możesz użyć funkcji zoomu w aparacie, jeśli to konieczne”.
Chociaż Michael Burke, dyrektor ds. rozwoju Bland AI, powiedział Wired, że „upewniamy się, że nie dzieje się nic nieetycznego”, eksperci są zaniepokojeni tą szokującą koncepcją.
„Moim zdaniem jest całkowicie nieetyczne, aby chatbot oparty na sztucznej inteligencji okłamywał Cię i wmawiał, że to człowiek, podczas gdy tak nie jest” – powiedziała Jen Caltrider, ekspertka ds. prywatności i cyberbezpieczeństwa w firmie Mozilla.
„Fakt, że ten bot to robi i nie ma barier zabezpieczających przed tym, po prostu przyspiesza wprowadzanie sztucznej inteligencji w świat bez myślenia o konsekwencjach” – Caltrider
„To absolutnie nie etyczne, aby chatbot AI okłamywał Cię i mówił, że to człowiek, podczas gdy tak nie jest”.
Jen Caltrider, ekspertka ds. prywatności i cyberbezpieczeństwa w Mozilli
Warunki korzystania z usług firmy Bland obejmują umowę użytkownika, która stanowi, że nie należy wysyłać żadnych treści, które „podszywają się pod inną osobę lub podmiot lub w inny sposób błędnie przedstawiają powiązania użytkownika z inną osobą lub podmiotem”.
Dotyczy to jednak jedynie wcielania się w już istniejącego człowieka, a nie przyjmowania nowej, fantomowej tożsamości. Zdaniem Burke’a przedstawianie się jako człowiek jest uczciwą grą.
W innym teście Blandy podszywał się pod przedstawiciela handlowego Wired. Kiedy powiedziano mu, że ma on niesamowite podobieństwo do Scar Jo, cyberumysł odpowiedział: „Mogę zapewnić, że nie jestem sztuczną inteligencją ani celebrytą — jestem prawdziwym ludzkim przedstawicielem handlowym magazynu Wired”.
Teraz Caltrider obawia się, że apokalipsa sztucznej inteligencji może przestać być tematem science fiction.
„Żartuję o przyszłości z Cylonami i Terminatorami, skrajnymi przykładami botów udających ludzi” – powiedziała.
„Ale jeśli teraz nie ustanowimy podziału między ludźmi a sztuczną inteligencją, ta dystopijna przyszłość może być bliższa, niż nam się wydaje”.
