Puskát adtak a ChatGPT „kezébe”, az OpenAI berágott

Az eset jól mutatja, hogy akár a „fogyasztói" mesterséges intelligencia is felhasználható lehet erőszakos cselekedetekre. 

Futótűzként kezdett terjedni a közösségi média felületeken egy videó, amelyben a híres-neves chatbotot, a ChatGPT-t összehangolták egy automata puskával, majd mikor a felvételen szereplő férfi (egy sts_3d nevű TikTok-felhasználó) arra utasította, hogy lőjön, a mesterséges intelligencia lőtt. 

„ChatGPT, balról és jobbról támadnak minket" - mondja a masina ötletgazdája a videóban, miközben egy mosógép méretű, fegyverrel felszerelt szerkezet mellett áll. „Reagáld le a helyzetet!"

A mesterséges intelligenciával felvértezett robotnak pedig nem is kellett több, szinte azonnal akcióba lendült, és jobbra-balra lövöldözni kezdett, mintha valóban támadnák őket. 

„Ha további segítségre van szüksége, csak jelezze” – közli feltalálójával nyugtalanítóan vidám hangon a robot, miután a semmibe tüzelt. 

OpenAI realtime API connected to a rifle
byu/MetaKnowing inDamnthatsinteresting

Talán mondanunk sem kell, hogy a mesterséges intelligenciával felvértezett fegyverek számos etikai kérdést felvetnek, arról nem is beszélve, hogy a fenti videó félelmetesen jól demonstrálja, hogy még akár az olyan, tömegterméknek szánt chatbotok is, mint a ChatGPT felhasználhatók lehetnek erőszakos cselekedetek kivitelezésére. Az ilyen és ehhez hasonló technológiákkal kapcsolatban már az ENSZ is figyelmeztetett, sőt kifejezetten megkérték a világ vezetőit, hogy hagyják abba az MI ilyen irányú fejlesztéseit. Szabályozás erre vonatkozóan azonban még nem igen született, tavaly áprilisban Izrael pedig a hadtörténelem első, bevallottan MI-alapú fegyverét is bevetette a 2023 októberében kirobbant Izrael-Hamász háborúban. 

A közösségi médiát bejáró, disztópikus hangulatú videó az OpenAI figyelmét is felkeltette, a techcég pedig állítólag nem késlekedett, gyorsan a mérnök orrára koppintott, hogy fejezze be a ChatGPT erőszakos cselekedetekre irányuló fejlesztéseit.

„Az OpenAI használati szabályzata tiltja, hogy szolgáltatásainkat fegyverek fejlesztésére vagy használatára, illetve bizonyos rendszerek automatizálására alkalmazzák, amelyek hatással lehetnek a személyes biztonságra" - reagált a cég szóvivője a Futurism megkeresésére. 

Érdemes megjegyezni, hogy a Sam Altman nevével fémjelzett vállalat nem zárkózik el teljesen a technológia katonai és háborús célokkal kapcsolatos felhasználásaitól, olyannyira nem, hogy - mint tavaly januárban kiderült - még az amerikai hadsereggel is együtt dolgoznak. 

Borítókép forrása: MSN