Reklama

Nauka

Wojny na algorytmy – nowe wyzwanie dla cyberbezpieczeństwa

Piosenka puszczona w radio może spowodować serię katastrof w ruchu drogowym lub wyciek poufnych danych bankowych. O tym, jak można oszukać asystentów głosowych i wprowadzić w błąd autonomiczne pojazdy, telefony i urządzenia, które same się uczą – pisze w nagrodzonej pracy doktorant Wojskowej Akademii Technicznej.

Bądź na bieżąco!

Zapisz się do newslettera

Od sztucznej inteligencji może zależeć nasze życie, jeśli jest zastosowana w medycynie, albo w autonomicznych pojazdach. A jednak łatwo da się oszukać maszyny – dowodzi Łukasz Tymoszuk. Drogą do “złośliwej” ingerencji jest budowanie systemów-hakerów, które same szukają sobie niewidocznych uchylonych drzwi.

Jego praca magisterska pt. „Antagonistyczne uczenie maszynowe jako zapowiedź wojen na algorytmy” otrzymała nagrodę główną (ex aequo) i nagrodę specjalną tegorocznego „Forum Młodych Informatyków”. Równorzędna nagrodę główną odebrał Paweł Tarsała za pracę pt. „Algorytmy głębokiego uczenia maszynowego w obszarze widzenia komputerowego”. Obydwaj laureaci pracowali pod opieką naukową dr. inż. Rafała Kasprzyka z Wydziału Cybernetyki WAT.

Pomóż w rozwoju naszego portalu

Wspieram

Łukasz Tymoszuk podaje przykład ataku dokonanego poprzez... piosenkę. Atak polega na puszczeniu w radio zainfekowanej piosenki, transmitowanej w milionach odbiorników równocześnie.

„Człowiek nie usłyszy nic nadzwyczajnego, po prostu piosenkę. Natomiast systemy sztucznej inteligencji odbiorą komendę, która może spowodować serię katastrof w pojazdach autonomicznych, albo wyciek danych na ogromną skalę. Te systemy to asystenci głosowi, których wykorzystujemy do przekazywania poleceń w domach, samochodach czy telefonach komórkowych z dostępem do e-maili i poufnych danych” – tłumaczy doktorant.

Jak wyjaśnia dr Kasprzyk, algorytm bardzo zaawansowanej sztucznej inteligencji jest łatwo oszukać poprzez inny algorytm – to właśnie wojna na algorytmy. Choć nawet najbardziej inteligentny człowiek nie rozumie do końca reguł działania złożonego systemu, to przecież potrafi go „wytrenować”. A skoro tak – to przestępca lub naukowiec zaangażowany w działania wojenne potrafi zbudować przeciwstawny algorytm, który nauczy się wszystkiego o tym pierwszym. Złośliwy algorytm będzie umiał wyszukać lukę i spreparować taki „szum”, żeby nasz pierwszy, poprawny algorytm się pomylił.

Reklama

Wojny na algorytmy dzieją się od dziesiątek lat w obszarze kryptologii – tu chodzi o zapewnienie poufności danych. Obszarów takiej walki jest coraz więcej w codziennym życiu, a tym bardziej w wojsku. Cyberbezpieczeństwo dotąd obejmowało sprzęt, czyli hardware, i nadający ducha temu „ciału” software, czyli oprogramowanie. Obecnie obszar cyberbezpieczeństwa, powiększył się o usuwanie luk w modelach budowanych przez same maszyny w oparciu o Big Data. Przez te luki, zwane podatnościami, mogą wślizgnąć się „maszynowi hakerzy”.

Złośliwe systemy preparowania danych wejściowych mogą być wykorzystane w wojnach przyszłości, nawet między państwami – tak w ataku, jak w obronie. Zatem nie tylko przestępcy, ale i specjaliści od spraw wojskowych pracują nad zaawansowanymi systemami przeciwstawnego uczenia się maszyn. Aby opracować zabezpieczenia, naukowcy muszą odnaleźć luki w aktualnych modelach uczenia maszynowego – i zrozumieć, jak je chronić.

2020-12-17 20:25

Ocena: +2 0

Reklama

Wybrane dla Ciebie

Dziś Wielki Czwartek – początek Triduum Paschalnego

[ TEMATY ]

Wielki Czwartek

Pio Si/pl.fotolia.com

Od Wielkiego Czwartku Kościół rozpoczyna uroczyste obchody Triduum Paschalnego, w czasie którego będzie wspominać mękę, śmierć i zmartwychwstanie Jezusa Chrystusa. W Wielki Czwartek liturgia uobecnia Ostatnią Wieczerzę, ustanowienie przez Jezusa Eucharystii oraz kapłaństwa służebnego.

Wielki Czwartek jest szczególnym świętem kapłanów. Rankiem, jeszcze przed wieczornym rozpoczęciem Triduum Paschalnego, ma miejsce szczególna Msza św. Co roku we wszystkich kościołach katedralnych biskup diecezjalny wraz z kapłanami (nierzadko z całej diecezji) odprawia Mszę św. Krzyżma. Poświęca się wówczas krzyżmo oraz oleje chorych i katechumenów. Przez cały rok służą one przy udzielaniu sakramentów chrztu, święceń kapłańskich, namaszczenia chorych, oraz konsekracji kościołów i ołtarzy. Namaszczenie krzyżem świętym oznacza przyjęcie daru Ducha Świętego.. Krzyżmo (inaczej chryzma, od gr. chrio, czyli namaszczać, chrisis, czyli namaszczenie) to jasny olej z oliwek, który jest zmieszany z ciemnym balsamem.

CZYTAJ DALEJ

Kielce: w rękach policji wandal, który zniszczył kapliczkę maryjną przy ruchliwej trasie

2024-03-27 14:47

www.diecezja.kielce.pl

Kieleccy policjanci zatrzymali wandala, który we wtorek 26 marca zniszczył niedawno odnowioną kapliczkę Matki Bożej, znajdującą się przy rondzie w Czerwonej Górze, przy trasie Kielce - Kraków w gminie Chęciny. Kapliczka jesienią 2023 r. została odnowiona i pozostawiona na tym miejscu, mimo budowy ronda i remontu drogi.

Jak informuje mł. asp. Małgorzata Perkowska-Kiepas, oficer prasowy Komendy Miejskiej Policji w Kielcach, wczoraj wpłynęło zgłoszenie świadka, który zaobserwował sytuację, gdy do figurki tuż obok ronda, podjechał pojazd osobowy. Wysiadł z niego mężczyzna, który przewrócił i zniszczył tę figurkę, po czym oddalił się z miejsca.

CZYTAJ DALEJ

Śp. bp Ryszard Karpiński. Tablica nagrobna i portret

2024-03-28 11:13

Katarzyna Artymiak

W kryptach kościoła św. Piotra w Lublinie umieszczono tablicę grobową i portret śp. bp. Ryszarda Karpińskiego.

CZYTAJ DALEJ

Reklama

Najczęściej czytane

W związku z tym, iż od dnia 25 maja 2018 roku obowiązuje Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia Dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) uprzejmie Państwa informujemy, iż nasza organizacja, mając szczególnie na względzie bezpieczeństwo danych osobowych, które przetwarza, wdrożyła System Zarządzania Bezpieczeństwem Informacji w rozumieniu odpowiednich polityk ochrony danych (zgodnie z art. 24 ust. 2 przedmiotowego rozporządzenia ogólnego). W celu dochowania należytej staranności w kontekście ochrony danych osobowych, Zarząd Instytutu NIEDZIELA wyznaczył w organizacji Inspektora Ochrony Danych.
Więcej o polityce prywatności czytaj TUTAJ.

Akceptuję