Dodano: 25 luty 2017r.

Zdrada i agresja. Sztuczna inteligencja osiągnęła nowy poziom

Rozwój sztucznej inteligencji jest szybszy niż nam się wydaje. Niemal wszyscy naukowcy zgadzają się, że to właśnie sztuczna inteligencja będzie stała za nową rewolucją technologiczną, która zmieni obraz świata. Jednak nadal aktualne jest pytanie o zagrożenia z nią związane.


Program „Deep Mind”, który jest od lat rozwijany przez naukowców zatrudnionych przez Google, zrozumiał ostatnio korzyści płynące ze zdrady. Stało się to podczas gry, ale… No właśnie, u większości ludzi ta informacja budzi niepokój, bo sztuczna inteligencja przejmuje negatywne cechy ludzi. Idąc dalej tym tokiem myślenia, tak po ludzku, czy nie grozi nam niebezpieczeństwo ze strony sztucznej inteligencji? Można założyć, że w którymś momencie zakiełkuje w sieci neuronowej cyfrowa myśl o podboju. Człowiek na pewno by o tym pomyślał. Czy zatem powinniśmy się bać?

„Deep Mind” zyskał rozgłos, gdy stworzony przez tą sieć neuronową program AlphaGo pokonał w 2015 roku mistrza gry w go. Program nawet został uhonorowany honorowym 9. danem od południowokoreańskiej federacji go.

Naukowcy testują sztuczną inteligencję w pojedynkach z mistrzami swoich dyscyplin w różnych grach logicznych i strategicznych. Zaczęło się od pokonania w 1996 roku mistrza gry w szachy Garri Kasparowa. Gdy to się stało, w środowisku naukowym mówiono, że prawdziwym osiągnięciem będzie wygrana z mistrzem go. Ale mistrz Lee Sedolen także poległ. Sztucznej inteligencji zaproponowano zatem grę w pokera.

- Od początku badań nad sztuczną inteligencją, wyznacznikiem rozwoju było pokonanie mistrzów w swoich dyscyplinach. W 1996 roku w szachy poległ Garri Kasparow z programem IBM Deep Blue. W ubiegłym roku algorytmy programu AlphaGo pokonały mistrza gry go. Poker jest trudniejszym wyzwaniem, bo wymaga, aby program podejmował  skomplikowane decyzje oparte na niekompletnych informacjach, rozważając zagrywki przeciwników takie jak blefy – wyjaśnił profesor Tuomas Sandholm z Carnegie Mellon University, który kierował zespołem pracującym nad algorytmami programu Liberatus.

Liberatus zmierzył się z czterema pokerzystami z czołówki list światowych. Pojedynek odbył się w ubiegłym miesiącu i toczył się przez 20 dni. W ramach meczu rozegrano 120 tysięcy rozdań. Tak jak w szachy i go sztuczna inteligencja rozgromiła pokerzystów. – Codziennie, przez 20 dni, byliśmy ogrywani przez komputer. To demoralizujące – przyznał Jason Les, jeden z biorących udział w pojedynku pokerzystów. Więcej na ten temat w tekście: Sztuczna inteligencja rozgromiła najlepszych pokerzystów świata.

Zdrada

Przed Deep Mind postawiono zadanie wzięcia udziału w grze. To prosta gra polegająca na zbieraniu jabłek. Deep Mind został poinstruowany, co do zasad, które określili badacze tworząc grę, ale jak ją ukończyć, program musiał nauczyć się sam.

W grze mierzyło się dwóch graczy. Obaj byli sterowani przez sztuczną inteligencję. Gra polegała na zbieraniu jabłek i za to były przyznawane punkty. Do dyspozycji gracza był też laser. Po dwukrotnym trafieniu, przeciwnik tracił na kilka chwil możliwość ruchu.

Gdy jabłek w grze było pod dostatkiem, sztuczna inteligencja zajmowała się ich zbieraniem. Ciekawie zaczęło się robić, gdy jabłek zaczęło brakować. Wtedy pierwszy raz program użył lasera, ale po chwili była już wyłącznie wymiana ognia. Im bardziej badacze zwiększali moc sieci neuronowej, tym strzelanina była częstsza, niezależnie od tego, ile jabłek zostało.

Kolejna gra, w której uczestniczyła sztuczna inteligencja, polegała na polowaniu. Uczestniczyło w niej trzech graczy. Dwóch było wilkami a jeden owcą. Punkty były przyznawane za złapanie ofiary, ale w przypadku osaczenia ofiary przy współpracy dwóch wilków, punktów było więcej.

W tej grze sztuczna inteligencja wypracowała dwa modele. W pierwszym wilki polowały wspólnie, a w drugim jeden z nich osaczał ofiarę i czekał na przybycie drugiego. W tym przypadku większa moc sieci neuronowej przekładała się na lepszą współpracę.

- Postęp sztucznej inteligencji i maszynowego uczenia się daje nam możliwość, by spojrzeć na klasyczne modele teorii gier z innej perspektywy. Sprowadzają się one do prostego wyboru między zdradą a współpracą – powiedział jeden z badaczy pracujący przy Deep Mind.

Wyniki zachowania sztucznej inteligencji pokazują, że jej działanie jest ukierunkowane na zrealizowanie celu, który został określony przez naukowców. W przypadku zbierania jabłek, celem było zdobycie ich jak najwięcej. Zatem nic dziwnego, że program skorzystał z możliwości, jakie daje mu działko laserowe.

Stephen Hawking ostrzega

Na temat zagrożeń, które niesie ze sobą rozwój sztucznej inteligencji wielokrotnie wypowiadał się znany astrofizyk Stephen Hawking. Zresztą nie tylko on. Wśród znanych osobistości, które przestrzegają przed sztuczną inteligencją jest także Elon Musk czy Max Tegmark – guru kosmologii.

- Rozwój sztucznej inteligencji może przybliżyć nas do końca ludzkiej rasy. Dlatego, żeby tego uniknąć, należy badać konsekwencje związane z jej rozwojem. To kluczowe dla naszej cywilizacji i przyszłości gatunku

W podobnym tonie wielokrotnie wypowiadał się również Elon Musk, szef SpaceX i Tesla Motors. Według niego, gdy sztuczna inteligencja stanie się mądrzejsza od ludzi, zostaniemy zdegradowani do roli zwierząt domowych.

Musk widzi rozwiązanie tego problemu przez połączenie człowieka z maszyną. W ten sposób człowiek zyska dodatkowe możliwości. – Sztuczna inteligencja będzie o wiele mądrzejsza od najmądrzejszego człowieka na Ziemi. To niebezpieczna sytuacja. Dlatego musimy stać się cyborgami, żeby nadążyć – zaznaczył Musk.

– Musimy być bardzo ostrożni w tym, jak będziemy adaptować cyfrową inteligencję. Musimy być pewni, że naukowcy nie dadzą się ponieść. Czasami tak się dzieje, że naukowcy są całkowicie pogrążeni w swojej pracy i nie bardzo zdają sobie sprawę z konsekwencji tego co robią – przyznał.

Według Muska, ​​jednym ze sposobów, aby zapobiec wymknięciu się spod kontroli sztucznej inteligencji jest połączenie się z nią. – Sądzę, że jest możliwe pewnego rodzaju połączenie inteligencji biologicznej i cyfrowej. To mogłoby rozwiązać problem utraty kontroli – ocenił Musk. Więcej na ten temat można znaleźć w tekście: Elon Musk zapowiada erę cyborgów.