Reklama

Nauka

Wojny na algorytmy – nowe wyzwanie dla cyberbezpieczeństwa

Piosenka puszczona w radio może spowodować serię katastrof w ruchu drogowym lub wyciek poufnych danych bankowych. O tym, jak można oszukać asystentów głosowych i wprowadzić w błąd autonomiczne pojazdy, telefony i urządzenia, które same się uczą – pisze w nagrodzonej pracy doktorant Wojskowej Akademii Technicznej.

Od sztucznej inteligencji może zależeć nasze życie, jeśli jest zastosowana w medycynie, albo w autonomicznych pojazdach. A jednak łatwo da się oszukać maszyny – dowodzi Łukasz Tymoszuk. Drogą do “złośliwej” ingerencji jest budowanie systemów-hakerów, które same szukają sobie niewidocznych uchylonych drzwi.

Jego praca magisterska pt. „Antagonistyczne uczenie maszynowe jako zapowiedź wojen na algorytmy” otrzymała nagrodę główną (ex aequo) i nagrodę specjalną tegorocznego „Forum Młodych Informatyków”. Równorzędna nagrodę główną odebrał Paweł Tarsała za pracę pt. „Algorytmy głębokiego uczenia maszynowego w obszarze widzenia komputerowego”. Obydwaj laureaci pracowali pod opieką naukową dr. inż. Rafała Kasprzyka z Wydziału Cybernetyki WAT.

Reklama

Łukasz Tymoszuk podaje przykład ataku dokonanego poprzez... piosenkę. Atak polega na puszczeniu w radio zainfekowanej piosenki, transmitowanej w milionach odbiorników równocześnie.

„Człowiek nie usłyszy nic nadzwyczajnego, po prostu piosenkę. Natomiast systemy sztucznej inteligencji odbiorą komendę, która może spowodować serię katastrof w pojazdach autonomicznych, albo wyciek danych na ogromną skalę. Te systemy to asystenci głosowi, których wykorzystujemy do przekazywania poleceń w domach, samochodach czy telefonach komórkowych z dostępem do e-maili i poufnych danych” – tłumaczy doktorant.

Jak wyjaśnia dr Kasprzyk, algorytm bardzo zaawansowanej sztucznej inteligencji jest łatwo oszukać poprzez inny algorytm – to właśnie wojna na algorytmy. Choć nawet najbardziej inteligentny człowiek nie rozumie do końca reguł działania złożonego systemu, to przecież potrafi go „wytrenować”. A skoro tak – to przestępca lub naukowiec zaangażowany w działania wojenne potrafi zbudować przeciwstawny algorytm, który nauczy się wszystkiego o tym pierwszym. Złośliwy algorytm będzie umiał wyszukać lukę i spreparować taki „szum”, żeby nasz pierwszy, poprawny algorytm się pomylił.

Reklama

Wojny na algorytmy dzieją się od dziesiątek lat w obszarze kryptologii – tu chodzi o zapewnienie poufności danych. Obszarów takiej walki jest coraz więcej w codziennym życiu, a tym bardziej w wojsku. Cyberbezpieczeństwo dotąd obejmowało sprzęt, czyli hardware, i nadający ducha temu „ciału” software, czyli oprogramowanie. Obecnie obszar cyberbezpieczeństwa, powiększył się o usuwanie luk w modelach budowanych przez same maszyny w oparciu o Big Data. Przez te luki, zwane podatnościami, mogą wślizgnąć się „maszynowi hakerzy”.

Złośliwe systemy preparowania danych wejściowych mogą być wykorzystane w wojnach przyszłości, nawet między państwami – tak w ataku, jak w obronie. Zatem nie tylko przestępcy, ale i specjaliści od spraw wojskowych pracują nad zaawansowanymi systemami przeciwstawnego uczenia się maszyn. Aby opracować zabezpieczenia, naukowcy muszą odnaleźć luki w aktualnych modelach uczenia maszynowego – i zrozumieć, jak je chronić.

2020-12-17 20:25

Ocena: +1 0

Reklama

Wybrane dla Ciebie

Polska ponownie poświęcona!

2021-06-08 12:34

Niedziela Ogólnopolska 24/2021, str. 10-12

[ TEMATY ]

serce

Anna Wiśnicka

W jakim celu ponownie oddajemy nasz kraj Sercu Jezusa, skoro poświęcenie miało już miejsce w 1921 r. na Małym Rynku Krakowie?

Ojciec Robert Więcek, jezuita, dyrektor Krajowego Sekretariatu Apostolstwa Modlitwy, wyjaśnia: – To jak dmuchnięcie w popiół, który przykrywa żar, po to, by na nowo rozpalić serca wiernych gorejącym ogniem miłości. Skoro „ponownie”, to znaczy, że od czasu do czasu warto powrócić do źródeł. Z biegiem lat jakoś blednie wspomnienie o tym, co się wydarzyło. Duchowi synowie św. Ignacego Loyoli często powtarzają sentencję łacińską: repetitio mater studiorum est (powtarzanie jest matką wiedzy). W tym wyrażeniu także odkrywamy nutki nadziei związanej z tym ponowieniem. Jeszcze jedna myśl ojca Ignacego, która powtarza się w dynamice Ćwiczeń duchowych: mówi on, że nie ilość treści, a smakowanie nasyca duszę – o takie sycenie chodzi.

CZYTAJ DALEJ

Wszyscy bowiem musimy stanąć przed trybunałem Chrystusa

2021-06-08 12:34

Niedziela Ogólnopolska 24/2021, str. IV

[ TEMATY ]

homilia

Hans Memling

Fragment obrazu Hansa Memlinga „Sąd Ostateczny”

Fragment obrazu Hansa Memlinga „Sąd Ostateczny”

Jednym z głównych tematów działalności Jezusa było niestrudzone nauczanie o królestwie Bożym. Z jednej strony, co znalazło wyraz w drugiej prośbie Modlitwy Pańskiej („przyjdź królestwo Twoje”), jego nadejście wciąż pozostaje sprawą przyszłości, lecz z drugiej – ta przyszłość została już zapoczątkowana. Królowanie Boga w świecie nie polega na sprawowaniu władzy politycznej i zewnętrznym splendorze, ale dokonuje się w sercach i sumieniach wyznawców podatnych na poznawanie oraz wypełnianie woli Bożej. Objaśniając prawdę o królestwie Bożym, Jezus posiłkował się przypowieściami nawiązującymi do realiów przyrodniczych i życia codziennego. Ta pedagogia jest godna naśladowania i w naszych czasach, bo przemawia nie tylko do rozumu, lecz także do wyobraźni.

Czytanie wyjęte z Ewangelii według św. Marka zawiera dwa obrazy królestwa Bożego. Pierwszy z nich to nasienie wrzucone w rolę, które kiełkuje i rośnie niezależnie od siewcy, następnie wydaje źdźbło, kłos i pełne ziarno w kłosie, po czym jest gotowe do żniwa. Głosząc Ewangelię, często polegamy tylko na sobie, chcielibyśmy rychło oglądać rezultaty swej pracy i brak nam cierpliwości, kiedy są niewidoczne. Jezus zaleca czekanie aż „do żniwa”, bo chociaż naszą powinnością jest ponawianie siewu słowa Bożego, to jego wzrost i plony są przede wszystkim dziełem Boga. Drugi obraz to ziarnko gorczycy, „najmniejsze ze wszystkich nasion na ziemi”, ale gdy wyrośnie „staje się większe od innych jarzyn”. W zestawieniu z tym, co dzieje się w świecie, zasiew słowa Bożego wydaje się mało znaczący. Nie jest to jednak powód do przygnębienia, apatii czy utraty nadziei wtedy, kiedy się zważy, że ostatnie słowo zawsze należy do Boga. Włączając się w wielowiekowe dzieło ewangelizacji, trzeba więc nieustannie czynić swoimi słowa psalmisty: „Dobrze jest dziękować Panu”.

CZYTAJ DALEJ

Biskupi o aktualnych kwestiach Kościoła w Polsce

2021-06-12 16:08

[ TEMATY ]

episkopat

Episkopat News

Beatyfikacja kard. Stefana Wyszyńskiego i Matki Elżbiety Róży Czackiej, dokument dotyczący formacji kapłańskiej, duszpasterstwo w Kościele po pandemii, wizyta „ad limina Apostolorum” – to główne tematy 389. Zebrania Plenarnego Konferencji Episkopatu Polski, które odbyło się w dniach 11-12 czerwca w Kalwarii Zebrzydowskiej.

W pierwszym dniu obrad, przypadającym w uroczystość Najświętszego Serca Pana Jezusa, biskupi ponowili Akt Poświęcenia Narodu Polskiego Najświętszemu Sercu Pana Jezusa w 100. rocznicę tego wydarzenia.

CZYTAJ DALEJ

Reklama

Reklama

Najczęściej czytane

W związku z tym, iż od dnia 25 maja 2018 roku obowiązuje Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia Dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) uprzejmie Państwa informujemy, iż nasza organizacja, mając szczególnie na względzie bezpieczeństwo danych osobowych, które przetwarza, wdrożyła System Zarządzania Bezpieczeństwem Informacji w rozumieniu odpowiednich polityk ochrony danych (zgodnie z art. 24 ust. 2 przedmiotowego rozporządzenia ogólnego). W celu dochowania należytej staranności w kontekście ochrony danych osobowych, Redaktor Naczelna Tygodnika Katolickiego „Niedziela” wyznaczyła w organizacji Inspektora Ochrony Danych.
Więcej o polityce prywatności czytaj TUTAJ.

Akceptuję