Według badania BestColleges, ponad połowa uczniów używa sztucznej inteligencji do oszukiwaniaLiczby te są zgodne z wynikami badania przeprowadzonego na Uniwersytecie Stanforda, które wykazało, że Od 60 do 70 procent uczniów oszukujeJednak AI może wkrótce nie być już odpowiedzią na pisanie prac dla leniwych studentów college’u. Artykuł w Wall Street Journal (WSJ) informuje, że „OpenAI ma niezawodną metodę wykrywaj, kiedy ktoś używa ChatGPT do pisania eseju lub prace badawcze” — z dokładnością 99,9%.
Również: Jak sztuczna inteligencja kłamie, oszukuje i poniża, aby osiągnąć sukces – i co musimy z tym zrobić
Jak zauważył mój kolega David Gewritz, Wiele programów obiecuje już wykrywać tekst napisany przez sztuczną inteligencję.Podsumował jednak: „Z pewnością nie czułbym się komfortowo, grożąc obniżeniem poziomu wykształcenia studenta lub oskarżając go o ściąganie na podstawie wyników tego narzędzia”.
Otwórz AI nie ujawnił jeszcze szczegółowo, w jaki sposób jego nowa metoda jest w stanie zbliżyć się do perfekcji w zakresie tekstu pisanego przez AI. Z pewnością nie dlatego, że potrafi wykrywać halucynacje AI. Nie potrafi. Jak powiedział w zeszłym roku współzałożyciel OpenAI, John Schulman, „Naszym największym zmartwieniem jest faktografia, ponieważ modelki lubią wymyślać rzeczy.„
Według Mohameda Elgendy’ego, współzałożyciela i dyrektora generalnego, sytuacja ta nigdy się nie zmieni. Kolanausługa testowania uczenia maszynowego, „ poziom halucynacji zmniejszy sięale to nigdy nie zniknie — tak samo jak nawet ludzie z wysokim wykształceniem mogą podawać fałszywe informacje”.
Zamiast stosować jakąś dogłębną, magiczną metodę rozpoznawania tekstu napisanego przez sztuczną inteligencję, OpenAI najwyraźniej korzysta ze znacznie prostszej metody identyfikacji tekstu napisanego przez sztuczną inteligencję: usługa może oznaczać swoje wyniki znakiem wodnym.
W nowym, poprawionym wpisie na blogu: Zrozum źródło tego, co widzimy i słyszymy w InternecieOpenAI twierdzi, że przeprowadziło badania przy użyciu klasyfikatorów, znaków wodnych i metadanych, aby znaleźć produkty generowane przez AI. Nie wiemy jeszcze dokładnie, jak działają te znaki wodne.
Również: Najlepsze darmowe kursy AI (i czy certyfikat AI jest tego wart)
Wiemy, że OpenAI informuje, że jest „bardzo dokładny i nawet skuteczny przeciwko lokalnym manipulacjom, takim jak parafrazowanie”. Jednak znak wodny jest „mniej odporny na globalne manipulacje”.
Oznacza to, że nie działa dobrze w przypadku przetłumaczonego tekstu lub czegoś tak prostego, jak wstawianie znaków specjalnych do tekstu, a następnie ich usuwanie. I oczywiście nie może znaleźć pracy w innych modelach AI. Na przykład, jeśli wstawisz do niego dokument utworzony przez ChatAPT AI-text spotter. Google Gemini Lub Dezorientacjanajprawdopodobniej nie będzie w stanie zidentyfikować go jako dokumentu wygenerowanego przez sztuczną inteligencję.
Krótko mówiąc, przy odrobinie wysiłku studenci i pisarze nadal mogą przedstawiać pracę nad chatbotami AI jako swoją własną. Cóż, nadal mogą próbować. Z mojego doświadczenia z AI wynika, że wyniki są raczej drugiej kategorii. Jednak jeśli jest wystarczająco dobra, aby uzyskać ocenę zaliczającą, to może być wszystko, czego potrzebujesz.
Przynajmniej jedna osoba podająca się za profesora na Reddicie nie była pod wrażeniem: „Problem polega na tym, że możesz skopiować i wkleić tekst do innego programu, przetłumaczyć go na inny język, a następnie przetłumaczyć z powrotem. Ale szczerze mówiąc, większość studentów tego nie zrobi, więc które zarażą niemal każdego.„
Również: Jak asystent AI firmy Pearson może pomóc nauczycielom oszczędzać czas
Oczywiście, prawdopodobnie nie przeszkadza to dyrektorowi generalnemu OpenAI, Samowi Altmanowi, który powiedział dla The Harvard Gazette: „Oszukiwanie podczas odrabiania prac domowych jest zdecydowanie złą rzeczą.. Jednak to, co rozumiemy pod pojęciem oszukiwania i jakich zasad należy się spodziewać, zmienia się z czasem”.
Nie wiem. Oszukiwanie to oszustwo, ale to nowe narzędzie w arsenale OpenAI nie wydaje się, aby mogło wiele zrobić, aby temu zapobiec.
Co ciekawe, podczas gdy OpenAI wciąż zastanawia się, kiedy — a nawet czy w ogóle — powinno udostępnić tę nową usługę, firma jest na dobrej drodze do jej udostępnienia OD 3 oryginalny klasyfikator. Oznacza to, że w końcu prawie każdy obraz, który tworzysz, DALL-E zostanie oznaczone jako dzieło DALL-E stworzone przez sztuczną inteligencję. OpenAI zależy od Angielski: C2PA metadane, standard cyfrowej zawartości, do oznaczania i identyfikowania obrazów. Jeśli jesteś projektantem graficznym, który polega na DALL-E, aby tworzyć „prawdziwe” grafiki, być może nadszedł czas, aby wrócić do Photoshopa.
