Gdy twórcy AI zaczynają mówić o hamulcach, warto ich posłuchać.

JackClark, współzałożyciel #Anthropic, ostrzegł właśnie, że rozwój sztucznej inteligencji może zbliżać się do punktu, w którym człowiek przestanie nad nim realnie panować. Użył prostego porównania: branża AI ma dziś potężny silnik i pedał gazu, ale nie ma hamulców.

Brzmi jak science fiction? Jeszcze kilka lat temu pewnie tak. Problem w tym, że takie słowa nie padają z ust dziennikarza, polityka czy internetowego katastrofisty. Mówi je człowiek współtworzący jedną z najbardziej zaawansowanych firm AI na świecie.

Najciekawsze jest jednak coś innego.

Jeszcze niedawno największe firmy technologiczne przekonywały nas, że sztuczna inteligencja przede wszystkim zwiększy produktywność, pomoże lekarzom, naukowcom i przedsiębiorcom. Dziś coraz częściej słyszymy od tych samych ludzi ostrzeżenia o utracie kontroli, autonomicznym rozwoju systemów i konieczności tworzenia „hamulców bezpieczeństwa”.

To rodzi pytanie: skoro osoby stojące najbliżej technologii zaczynają bić na alarm, to czy rzeczywiście widzą zagrożenie, którego reszta świata jeszcze nie dostrzega?

Oczywiście warto zachować zdrowy sceptycyzm. Historia nowych technologii pełna jest zarówno przesadnego entuzjazmu, jak i katastroficznych przepowiedni. Fakt, że AI generuje coraz więcej kodu, nie oznacza jeszcze, że stała się niezależnym bytem. Nadal działa na infrastrukturze stworzonej przez ludzi i realizuje cele wyznaczone przez ludzi.

Ale równie niebezpieczne byłoby ignorowanie tych ostrzeżeń tylko dlatego, że brzmią niewygodnie.

Być może największym problemem nie jest to, że AI stanie się mądrzejsza od człowieka. Być może problem polega na tym, że rozwijamy ją szybciej, niż jesteśmy w stanie stworzyć zasady jej bezpiecznego używania.

W XX wieku najpierw wynaleźliśmy samochód, a dopiero później znaki drogowe, pasy bezpieczeństwa i przepisy ruchu. Pytanie brzmi: czy w przypadku sztucznej inteligencji zdążymy zbudować te „hamulce”, zanim rozpędzony pojazd osiągnie prędkość, której nikt nie będzie już w stanie kontrolować?