Reklama

Nauka

Wojny na algorytmy – nowe wyzwanie dla cyberbezpieczeństwa

WAT

Piosenka puszczona w radio może spowodować serię katastrof w ruchu drogowym lub wyciek poufnych danych bankowych. O tym, jak można oszukać asystentów głosowych i wprowadzić w błąd autonomiczne pojazdy, telefony i urządzenia, które same się uczą – pisze w nagrodzonej pracy doktorant Wojskowej Akademii Technicznej.

Od sztucznej inteligencji może zależeć nasze życie, jeśli jest zastosowana w medycynie, albo w autonomicznych pojazdach. A jednak łatwo da się oszukać maszyny – dowodzi Łukasz Tymoszuk. Drogą do “złośliwej” ingerencji jest budowanie systemów-hakerów, które same szukają sobie niewidocznych uchylonych drzwi.

Jego praca magisterska pt. „Antagonistyczne uczenie maszynowe jako zapowiedź wojen na algorytmy” otrzymała nagrodę główną (ex aequo) i nagrodę specjalną tegorocznego „Forum Młodych Informatyków”. Równorzędna nagrodę główną odebrał Paweł Tarsała za pracę pt. „Algorytmy głębokiego uczenia maszynowego w obszarze widzenia komputerowego”. Obydwaj laureaci pracowali pod opieką naukową dr. inż. Rafała Kasprzyka z Wydziału Cybernetyki WAT.

Reklama

Łukasz Tymoszuk podaje przykład ataku dokonanego poprzez... piosenkę. Atak polega na puszczeniu w radio zainfekowanej piosenki, transmitowanej w milionach odbiorników równocześnie.

„Człowiek nie usłyszy nic nadzwyczajnego, po prostu piosenkę. Natomiast systemy sztucznej inteligencji odbiorą komendę, która może spowodować serię katastrof w pojazdach autonomicznych, albo wyciek danych na ogromną skalę. Te systemy to asystenci głosowi, których wykorzystujemy do przekazywania poleceń w domach, samochodach czy telefonach komórkowych z dostępem do e-maili i poufnych danych” – tłumaczy doktorant.

Jak wyjaśnia dr Kasprzyk, algorytm bardzo zaawansowanej sztucznej inteligencji jest łatwo oszukać poprzez inny algorytm – to właśnie wojna na algorytmy. Choć nawet najbardziej inteligentny człowiek nie rozumie do końca reguł działania złożonego systemu, to przecież potrafi go „wytrenować”. A skoro tak – to przestępca lub naukowiec zaangażowany w działania wojenne potrafi zbudować przeciwstawny algorytm, który nauczy się wszystkiego o tym pierwszym. Złośliwy algorytm będzie umiał wyszukać lukę i spreparować taki „szum”, żeby nasz pierwszy, poprawny algorytm się pomylił.

Reklama

Wojny na algorytmy dzieją się od dziesiątek lat w obszarze kryptologii – tu chodzi o zapewnienie poufności danych. Obszarów takiej walki jest coraz więcej w codziennym życiu, a tym bardziej w wojsku. Cyberbezpieczeństwo dotąd obejmowało sprzęt, czyli hardware, i nadający ducha temu „ciału” software, czyli oprogramowanie. Obecnie obszar cyberbezpieczeństwa, powiększył się o usuwanie luk w modelach budowanych przez same maszyny w oparciu o Big Data. Przez te luki, zwane podatnościami, mogą wślizgnąć się „maszynowi hakerzy”.

Złośliwe systemy preparowania danych wejściowych mogą być wykorzystane w wojnach przyszłości, nawet między państwami – tak w ataku, jak w obronie. Zatem nie tylko przestępcy, ale i specjaliści od spraw wojskowych pracują nad zaawansowanymi systemami przeciwstawnego uczenia się maszyn. Aby opracować zabezpieczenia, naukowcy muszą odnaleźć luki w aktualnych modelach uczenia maszynowego – i zrozumieć, jak je chronić.

2020-12-17 20:25

[ TEMATY ]

Wybrane dla Ciebie

Papież: sztuczna inteligencja może uczynić świat lepszym

Adober Stock

Do refleksji nad rozwojem sztucznej inteligencji, która powinna ona szanować godność człowieka oraz stworzenia zaprasza Franciszek w intencji na listopad, przekazanej za pośrednictwem Światowej Sieci Modlitewnej Papieża. Podkreśla, że należy zachować świadomość niebezpieczeństw, jakie może przynieść nieograniczony postęp: nierówność szans i dyskryminację. Franciszek wyraża pragnienie, obecne w encyklice „Fratelli tutti”: „Byłoby dobrze, gdyby wzrostowi innowacji naukowych i technologicznych towarzyszyła również coraz większa sprawiedliwość i integracja społeczna!”.

Więcej ...

#NiezbędnikMaryjny: Sanktuarium Matki Bożej w Lourdes

2021-05-14 21:30

Sanktuarium Matki Bożej w Lourdes znajdujący się w południowo-zachodniej Francji u podnóża Pirenejów. Pielgrzymują do niego wierni z całego świata. Rocznie przybywa tam kilka milinów wiernych, w tym wielu wolontariuszy oraz osoby chore.

Więcej ...

Pójść za Chrystusem bez kalkulowania

2021-05-15 18:51
Ks. Zbigniew Słobodecki, proboszcza par. pw. św. Andrzeja Boboli w Miliczu obchodził swoją 30. rocznicę przyjęcia święceń kapłańskich

ks. Łukasz Romańczuk

Ks. Zbigniew Słobodecki, proboszcza par. pw. św. Andrzeja Boboli w Miliczu obchodził swoją 30. rocznicę przyjęcia święceń kapłańskich

W Miliczu odbyły się uroczystości odpustowe ku czci św. Andrzeja Boboli. Tego dnia obchodzono także 30. rocznicę święceń kapłańskich proboszcza parafii ks. Zbigniewa Słobodeckiego.

Więcej ...

Reklama

Najpopularniejsze

Nie szczepię się – grzeszę?

Felietony

Nie szczepię się – grzeszę?

#NiezbędnikMaryjny: odnajdź z nami drogę do Maryi!

Wiara

#NiezbędnikMaryjny: odnajdź z nami drogę do Maryi!

Lekarka z Krakowa: zawierzyłam Maryi i po raku nie ma...

Niedziela Małopolska

Lekarka z Krakowa: zawierzyłam Maryi i po raku nie ma...

#NiezbędnikMaryjny: Sanktuarium Matki Bożej w Lourdes

#NiezbędnikMaryjny: Sanktuarium Matki Bożej w Lourdes

Dni Krzyżowe 2021

Kościół

Dni Krzyżowe 2021

#NiezbędnikMaryjny: Cuda za wstawiennictwem Matki Bożej...

Wiara

#NiezbędnikMaryjny: Cuda za wstawiennictwem Matki Bożej...

Komunikat Nuncjatury Apostolskiej w Polsce: Ojciec Święty...

Kościół

Komunikat Nuncjatury Apostolskiej w Polsce: Ojciec Święty...

Rozpoczyna się Nowenna do św. Andrzeja Boboli

Wiara

Rozpoczyna się Nowenna do św. Andrzeja Boboli

#NiezbędnikMaryjny: Modlitwa do Matki Bożej Nieustającej...

Wiara

#NiezbędnikMaryjny: Modlitwa do Matki Bożej Nieustającej...