Piotr Mieczkowski, Fundacja Digital Poland: Jak ostrzeżenia Anthropica wpłyną na IPO?

Jak ostrzeżenia prezesa Anthropica wpłyną na zapowiadane IPO? W miniony weekend prezes firmy Dario Amodei poinformował, że AI wymyka się spod kontroli, że jest zaniepokojony kierunkiem rozwoju, a nawet chce regulacji i wprowadzi zewnętrznych audytorów. Elon Musk napisał na X, że „Dario ma rację”. Dario ma rację?

Dario od lat podnosi, że AI należy rozwijać znacznie bezpieczniej. Gdy zakładał Anthropica, to stawiał na bezpieczeństwo i od lat podnosi ten wątek. Natomiast dla mnie wątek bezpieczeństwa podnoszony przez największe spółki to jest chwyt marketingowy. Gdy spojrzymy na różne wypowiedzi Sama Altmana z OpenAI, każda edycja ChatGPT to już jest po prostu AGI, czyli ta generalna sztuczna inteligencja, która miałaby już całkowicie pozbawić nas pracy. Anthropic wypuścił dwa tygodnie temu interesującą symulację, jak sztuczna inteligencja może wpłynąć na rynek pracy. Tam są różne scenariusze, ile miejsc ubędzie, ile miejsc może przybyć, ale według mnie jednak ciągle jest tu dużo PR. Faktem jest, że takie zwykłe algorytmy mogą sporo namieszać, ale nie spodziewałbym się aż takiego zamieszania, jakim straszą. Prezydent Trump mówi, żeby nie zwalniać rozwoju sztucznej inteligencji, bo ten, kto wygra ten rozwój, będzie kontrolował świat.

Przypomnę, że Trump zaatakował Iran i chciałby przejąć Grenlandię. Komu można więc wierzyć, jeśli chodzi o rozsądek i dalekoterminowe myślenie?

Nie szukałbym tu rozsądku, bardziej szukałbym interesów. Trump mocno wpływa na rynki finansowe, tak jak pomaga na przykład sektorowi kryptowalut, pomagając uchwalać kolejne akty, jak choćby Clarity Act, który ma wrócić. Nie ma tutaj wielkiej misyjności w zbawieniu świata, to jest twardy interes. Dlatego spodziewam się, że będzie nacisk, żeby to wielkie IPO również było sukcesem, bo nadchodzą w listopadzie wybory połówkowe do Kongresu i jest duże ryzyko, że Republikanie mogą je przegrać, a w efekcie może być potem gorszy klimat na rynkach finansowych.

Ale wracając do ryzyka, firmy technologiczne informowały o incydentach, gdy algorytmy AI wymknęły się z sandboxa. Na czym polega taki incydent i czy jest poważny?

Firmy prowadzą testy w wyizolowanym środowisku w laboratorium. I faktycznie, skoro ci ludzie, którzy prowadzą te badania, zmuszają te algorytmy do osiągnięcia celów, które są absurdalne, to one podejmują wszelkie działania, żeby ten cel osiągnąć, nie patrząc na normy etyczne, nie patrząc na środki czy półśrodki, czy zasoby, tylko robią wszystko, żeby osiągnąć cel. Jeśli celem jest zhakowanie jakiegoś systemu, to te algorytmy nie mają żadnych norm. Faktycznie udało im się wydostać z tego laboratorium, gdzie są przetrzymywane modele sztucznej inteligencji i faktycznie zaczęły one tworzyć konta na serwisie społecznościowym, przekonując innych programistów, żeby dokonali zmian w kodzie, co im pozwoli wydostać się jeszcze bardziej z tego środowiska i zaprogramować swoje zmiany. To jest jak samolot na autopilocie. To są algorytmy, które sterują samolotem, oczywiście zdarzają się przypadki, chyba jak z Boeingiem, gdzie ten algorytm był źle sterowany i w konsekwencji samolot spadł. Algorytmy mogą być złe i dobre. W mediach społecznościowych chociażby dzieje się wiele złego. Te algorytmy są po to, żeby nas też uzależnić, przytrzymać przy ekranie i spolaryzować.

Ale to jest jakby wynik tego, że ich celem jest zarobienie pieniędzy. A zobaczyli, że zarabiają więcej pieniędzy, gdy polaryzują społeczeństwo, przytrzymują ludzi przy ekranach i uzależniają. To jest działanie nakierowane na zysk i firma odpowiedzialna powinna zauważyć, że już przesadza i cofnąć się. Zresztą w przypadku Mety zostało ujawnione, że naukowcy wewnątrz Mety wiedzieli, że program, który tworzą i cała sieć społecznościowa uzależnia i młodych i starszych. Ale Zuckerberg jako CEO nie dawał zgody na przystopowanie. Mamy zeznania byłego już szefa programistów, który powiedział wprost, że informowali go o tym, że idziemy w bardzo złym kierunku. Ale Zuckerberg nie chciał przestać, chciał zarabiać pieniądze. Wszystko zależy od kierunku rozwoju.

Ciekawa jest historia algorytmu, który miał zapisać kogoś na siłownię, a ponieważ już nie było miejsc, to wyrzucił inną osobę. To dobry przykład zapotrzebowania na normy etyczne, by algorytmy mogły działać w kierunku sukcesu, ale nie nadmiernie wysokim kosztem innych ludzi. Czy to jest do zaprogramowania?

To jest do zaprogramowania. Problem polega na tym, że im model staje się bardziej skomplikowany, to cały wysiłek tych wielu programistów idzie w okiełznanie kolejnych wersji, które wypuszczają, by na przykład odmawiały poleceń skonstruowania bomby. Dlatego jest dużo luk w tym wszystkim.

Jak ostrzeżenie o tym kryzysie w rozwoju AI wpłynie na planowane na ten rok IPO Anthropica?

Według mnie zadziała to prawdopodobnie pozytywnie na wyceny. Natomiast dla nas jako ludzi, konsumentów to taka marketingowa ściema. Tak jak działania Zuckerberga i Mety i wielu innych. Po tym, jak były kolejne skandale o samobójstwach różnych nastolatków, którzy się zabijali w wyniku rozmów, czy to z tym czatem, czy w ogóle w mediach społecznościowych, to wprowadzane były rady, które miały kontrolować nadzór rozwoju algorytmów, ale to nigdy nic nie dało, więc ja w takie rady nie wierzę.

Wycena Anthropica wzrosła obecnie do 2 bln USD. Emisja może dać nawet 100 mld USD a zakup akcji za 10 mld USD rozważa Nvidia jako inwestor kotwiczący. Czy to się może skończyć podobnie jak wcześniejsze duże, głośne IPO bigu techu?

Chciałbym mieć szklaną kulę i powiedzieć, jak to się skończy. W przypadku większości tego typu IPO w Stanach Zjednoczonych, po jakimś czasie, roku czy kilku latach, te notowania spadały. Tak było chociażby z Metą, ale potem te spółki się podnosiły i docelowo najczęściej były wyżej niż w chwili IPO. Debiut zależy tak naprawdę od klimatu, jaki będzie w momencie debiutu, bo to będzie albo październik, albo listopad, a dziennikarze wskazują, że to będzie raczej przed połówkowymi wyborami.