Możesz też obejrzeć film o Deepfake’u [reszta informacji pod filmem].

Miecz: Perfekcyjna Imitacja

Technologia Deepfake wykorzystuje sieci neuronowe, zwłaszcza generatywne sieci przeciwstawne (GAN), do nakładania jednej twarzy na drugą, manipulowania ruchami ust, czy też klonowania głosu z zaledwie kilku sekund próbki.

1. Niebezpieczna ewolucja

Tempo, w jakim Deepfake ewoluuje, jest zdumiewające. Pierwsze Deepfake’i były nieporadne i pełne własnych tworów. Obecne systemy potrafią generować fałszywe materiały w czasie rzeczywistym, które są niemal niemożliwe do odróżnienia od oryginału gołym okiem. Kluczowe ulepszenia to:

• Realizm mimiki: Naturalne cienie, odblaski i detale skóry, które kiedyś zdradzały fałszerstwo.

• Spójność fizyczna: Eliminacja migotania i błędów w geometrii obiektów.

• Wierność dźwięku: Generowanie fałszywego głosu, który oddaje nie tylko barwę, ale i emocjonalny ton oryginału.

2. Zastosowania Ofensywne

Deepfake jest wykorzystywany na wielu frontach:

• Dezinformacja polityczna: Tworzenie fałszywych nagrań, które mają zdyskredytować polityków przed wyborami.

• Oszustwa finansowe: Użycie klonowania głosu do podszycia się pod dyrektora firmy i zlecenie pilnego przelewu (tzw. vishing).

• Wyłudzenia tożsamości: Tworzenie fałszywych profili w mediach społecznościowych, wykorzystujących wizerunek niczego niepodejrzewających osób.

Tarcza: Nieustająca Walka o Wykrycie

W odpowiedzi na rosnące zagrożenie, naukowcy i firmy technologiczne z całego świata ścigają się w budowaniu „tarczy” – zaawansowanych algorytmów wykrywających Deepfake.

1. Metody Detekcji

Obecne metody wykrywania Deepfake koncentrują się na analizie cyfrowych „odcisków palca” pozostawionych przez proces generowania, są to m.in. analiza mrugania – początkowe Deepfake’i rzadziej mrugały w sposób naturalny, ponieważ oryginalne zestawy danych treningowych nie zawierały wystarczająco wielu obrazów z zamkniętymi oczami; analiza tętna algorytmy poszukują braku subtelnych zmian koloru skóry, związanych z przepływem krwi, które są trudne do realistycznego zreplikowania czy niezgodności w kompresji artefaktów; tj Wykrywanie niespójności w szumie i ziarnistości pomiędzy sfałszowaną a oryginalną częścią kadru.

2. Krytyczny Problem Skalowania

Główny problem polega na tym, że technika Deepfake jest zawsze o krok do przodu. Proces wygląda tak, że naukowcy tworzą bazę deepfake’ów, następnie tworzą algorytm wykrywający, który osiąga wysoką skuteczność w detekcji. Jednak twórcy wykorzystują ten algorytm i trenują nową, ulepszoną wersję, która jest zaprojektowana tak, aby celowo unikać detekcji. Algorytm wykrywania fałszywych obrazów, wideo i dźwięków staje się więc na koniec dnia bezużyteczny, a cykl zaczyna się od nowa.

Ta zależność prowadzi do niepokojącego wniosku: detektory są zawsze trenowane na technologii z przeszłości.

Konsekwencje społeczne: Erozyjny Wpływ na Zaufanie

Najgroźniejszym skutkiem dominacji „miecza” nad „tarczą” jest nie sam Deepfake, ale zjawisko zwane „Paradoksem Deepfake” (lub z angielskeigo „Dividend of Malice” – „Dywidenda Złośliwości”). Kiedy ludzie są bombardowani informacjami, że wszystko można sfałszować, prowadzi to do erozji zaufania, utraty wiary w autentyczność wszelkich materiałów wizualnych i audio, w tym prawdziwych dowodów zbrodni czy nadużyć. Co więcej osobistości publiczne i przestępcy mogą zaprzeczać autentyczności prawdziwych nagrań, twierdząc, że są to Deepfake’i, skutecznie unikając odpowiedzialności.

Co Dalej? Rola Weryfikacji Źródła

Jeśli sama detekcja wizualna przegrywa, przyszłość walki z Deepfake’ami leży w zmianie strategii z analizy treści na weryfikację źródła i cyfrowe uwierzytelnianie.

Organizacje, takie jak C2PA (Coalition for Content Provenance and Authenticity), pracują nad standardami, które pozwolą producentom treści (aparatom, telefonom, studiom) na osadzanie metadanych uwierzytelniających i kryptograficznych podpisów cyfrowych w materiałach. W ten sposób użytkownik mógłby sprawdzić, czy dane wideo lub zdjęcie nie zostało zmodyfikowane od momentu jego pierwotnego zarejestrowania.

W wyścigu cyberzbrojeń Deepfake jest bez wątpienia obecnie wiodącym mieczem. Dopóki świat nie przejdzie od biernego wykrywania do aktywnego uwierzytelniania u źródła, tarcza detekcji będzie zawsze łamana, a autentyczność świata cyfrowego pozostanie zagrożona.

Zadanie publiczne Kliknij bez ryzyka – Żary bezpieczne w sieci sfinansowane jest ze środków Narodowego Instytutu Wolności – Centrum Rozwoju Społeczeństwa Obywatelskiego w ramach Rządowego Programu Wsparcia Organizacji Pozarządowych Moc Małych Społeczności.

The post Deepfake: Miecz Pokonuje Tarczę w Wyścigu Cyberzbrojeń first appeared on Nowe Kształty.

Na przykład komputery są zdolne przeprowadzać analizy diagramów i obrazów medycznych, kontrolować w pełni start i lądowanie samolotów, wspierać taktyczne decyzje na wojnie dzięki zaawansowanym grom strategicznym z użyciem sztucznej inteligencji, ale także przyziemnie podejmować decyzje o udzieleniu kredytu. Do gry wszedł projekt badawczy OpenAI, który zaczął rozwijać specjalistyczne rozwiązania oparte o sztuczną inteligencję jak DALL-E (program tworzący cyfrowe obrazy), OpenAI Codex (aplikacja przetwarzająca ludzki język na kod programistyczny) czy obecnie zyskujący szczególny rozgłos Chat GPT, projekt lingwistyczny mający za zadanie prowadzić płynną i możliwie najbardziej rzeczywistą rozmowę z człowiekiem.

W ostatnim czasie dosyć często mówi się o tym jak bardzo dynamiczny postęp sztucznej inteligencji jest nieunikniony. Strach jest tak silny, że znane osobistości ze świata nauki i biznesu wystosowały list otwarty z apelem o co najmniej sześć miesięcy przerwy w rozwoju systemów sztucznej inteligencji.

Jest nad czym panikować?

Nasz mózg, który pod wieloma względami jest niesamowitym i niezwykle rozwiniętym tworem, ostatecznie ma także znaczne ograniczenia poznawcze. Przede wszystkim bardzo szybko potrafi przetwarzać pewne wzorce, ale pełne transakcje umysłowe zajmują dużo czasu. Weźmy dla przykładu tekst, który właśnie czytasz. Przeczytanie każdego kolejnego słowa nie zajmuje Ci (o ile nie jesteś dyslektykiem) dłużej niż ułamek sekundy. Jednak przetworzenie całego artykułu, który masz zamiar przeczytać zajmie co najmniej kilka minut. Do tego fakt, że autor będzie wredny i zamieści wiele pobocznych anegdot wybije Cię kilkukrotnie z rytmu co w konsekwencji spowoduje, że czas czytania dodatkowo wydłuży się bo zostanie skonsumowany na przeskakiwanie pomiędzy wątkami.

Inaczej jest z komputerem, który cugiem “wciągnie” i przetworzy cały tekst nawet jeśli będzie on wypełniony wątkami pobocznymi, potrzeba do tego jedynie wystarczająco dużo mocy obliczeniowej. Także trwałość pamięci komputera wypada dużo korzystniej w zestawieniu z człowiekiem, a wciąż nie osiągamy jeszcze maksimum zdolności. Komputer jest więc znacznie potężniejszym narzędziem niż mózg najinteligentniejszego gatunku na Ziemi – człowieka.

Intuicja kontra historia w 6 epokach ewolucji świata

W latach ‘50 John von Neumann powiedział, że “wiecznie przyspieszający rozwój technologiczny /…/ sprawia wrażenie zbliżania się do jakiejś szczególnej osobliwości, po której sprawy ludzkie nie będą w stanie trwać w obecnej formie”.

Najistotniejszymi dwoma elementami tego cytatu jest poczucie przyspieszającego rozwoju (nie odbywającego się ze stałą prędkością) oraz fakt zauważenia pewnej osobliwości, do której wrócę w dalszej części artykułu.

Nie każdy jest do końca świadomy tego, że nasz postęp nie jest stały, ale przyspiesza. Wielu wyobraża sobie rozwój świata jako coś dziejącego się powoli i mozolnie. Na przykład miejsce w czasie, kiedy wynaleziono koło i ogień aż do momentu, w którym posługujemy się zaawansowanymi komputerami trwało całe tysiąclecia. Otóż jest to dobra obserwacja pod warunkiem, że patrząc na krótsze odcinki historyczne zauważymy, że już od pierwszego komputera do zaawansowanych laptopów minęło niespełna kilkadziesiąt lat.

Trzeba bowiem zdać sobie sprawę, że ewolucja to proces tworzenia wzorów o rosnącym porządku. Każdy etap ewolucji jest pośrednim wynikiem poprzedniego etapu, co oznacza, że każdy etap używa wzorca z poprzedniego, żeby móc się rozwinąć. Szacunkowo mówi się, że każda następująca po sobie dekada daje rozwój dwukrotnie większy niż ubiegła. Przykładowo, w dekadzie 2011-2020 ludzkość rozwinęła się dwukrotnie szybciej niż w dekadzie 2001-2010 (spójrz na rysunek o różnicy pomiędzy linearnym a wykładniczym wzrostem). Wynika z tego, że nasz rozwój będzie nie tylko coraz dalszy, ale też coraz szybszy.

Postęp zaczyna być poza naszą kontrolą

Skoro komputery mają większe możliwości niż człowiek, a ich rozwój przyspiesza, list otwarty społeczności biznesowo-naukowej wydaje się mieć pełne uzasadnienie. Nie wiemy jak będzie wyglądał świat, który nie jest kontrolowany przez człowieka.

Choć nie wiemy, to już dawno się nad tym zastanawialiśmy. Czynił to m.in. Ray Kurzweil w książce Singularity is near (tłum. Osobliwość nadchodzi), który stan kooperatywnego współdziałania człowieka i maszyny nazwał Osobliwością (Singularity). Punkt ten zaczyna być osiągany w piątej z sześciu epok, które autor wyodrębnił, podczas gdy w ostatniej z nich osobliwość naturalnie rozprzestrzenia się wobec wszystkiego – od pojedynczych organizmów do wszechświata. Tempo zmian technologicznych będzie tak szybkie, ich wpływ tak głęboki, że życie ludzkie zostanie nieodwracalnie przekształcone. Ta epoka nie będzie ani utopijna, ani dystopijna, przekształca koncepcje, na których polegamy i może nadać kształt naszemu życiu, od naszych modeli biznesowych po cykl ludzkiego życia, w tym samą śmierć.

W celu pełnego zrozumienia pojęcia osobliwości warto dogłębniej wytłumaczyć ideę epok opisanych przez autora. Jest to podział bazujący na nowym dla epoki nośniku, transporterze i rdzeniu informacji.

Epoka pierwsza to podstawowe struktury, wzorce materii i energii, na podstawie których naukowcy opisują wielki początek. Najnowsze teorie grawitacji kwantowej utrzymują, że czas i przestrzeń są rozbite w dyskretne kwanty, fragmenty informacji. Nie wiadomo do końca, czy materia i energia mają charakter cyfrowy czy analogowy, ale niezależnie od tego wiemy, że struktury atomowe przechowują i przedstawiają dyskretne informacje. Taką informację zawierają zarówno same atomy jak i na wyższym poziomie m.in. pierwiastki, cząsteczki – a szerzej także związki.

Epoka druga to rozwój informacji biologicznej, w której komponenty węglowe stały się coraz bardziej zawiłe, dążąc do zaawansowanej agregacji cząstek uformowanych w samoreplikujące się mechanizmy i podstawy do życia. Ostatecznie uformowały się w dokładny cyfrowy mechanizm (kwas deoksyrybonukleinowy, znany jako DNA), który gromadził informacje opisujące większą zbiorowość cząstek. To i wspierający ją mechanizm rybosomów, histonów i metylacji umożliwiły przechowywanie zapisu eksperymentów ewolucyjnych z tej drugiej epoki.

Epoka trzecia przyniosła nam rozwój mózgu, ale ten mógł zaistnieć wyłącznie dzięki DNA, przez mechanizm ewolucji produkującej organizmy, które mogły wykryć informacje dzięki swoim sensorom i gromadzić w swoich systemach mózgowym i nerwowym. W trzeciej fazie zaczęły pojawiać się w końcu najpierw mało złożone organizmy a dalej coraz bardziej skomplikowane jak gady, ptaki czy ssaki.

W końcu człowiek zaczął tworzyć w epoce czwartej własne nośniki informacji. Z początku były oczywiście prymitywne, jak skały, jaskinie, później papirus i papier, ale ostatecznie wynaleziono maszyny i informacja zaczęła być przechowywana w coraz to bardziej kompaktowych nośnikach.

Jesteśmy właśnie w początkach piątej epoki, która pozwala nam zsynchronizować możliwości przechowywania informacji biologicznej z informacją cyfrową. Dzieje się to zarówno na płaszczyźnie wzajemnego oddziaływania poprzez przekazywanie informacji ze świata, który nazwijmy na potrzeby naszego rozważania realnym, do smartfonów czyli sfery sieciowej, jak i tworzenia w sferze sieciowej własnych modeli przetwarzania informacji, które są niezależne od modelu biologicznego.

Epoka szósta jest oczywiście póki co obiektem opowiadań z kategorii science fiction, w teorii, gdyż jak ustaliliśmy, informacja i energia dążą do kumulacji, tak więc świat powinien się – według Raya Kurzweila – rozszerzać o wszechświat, który skumulowana inteligencja i energia będą eksplorować.

Zwrócę w tym miejscu uwagę jeszcze raz na fakt, który został tu już wcześniej przytoczony pośrednio – żadna z następujących po sobie epok nie istniałaby bez poprzedniej. Każda kolejna z tych epok trwała krócej niż poprzednia. Świat nie tylko rozwija się szybko, ale będzie rozwijał się szybciej i nie ma przed tym odwrotu. Nie ma na świecie człowieka czy instytucji, która jest w stanie ten proces zahamować.

Ludzkość zaczyna więc stawiać pytania egzystencjalne. Czy maszyny przejmą nasze miejsca pracy z dnia na dzień? Czy maszyny wydostaną się spod naszej kontroli? Czy będziemy mogli społecznie i politycznie zapanować nad niekontrolowanym wykorzystaniem komputerów przez wrogie siły?

Warto jednak zadać sobie też pytanie o to co będzie z człowiekiem i jego dorobkiem cywilizacyjnym. Co będzie z istotą transcendentną Homo Sapiens?

Sprawdź inne tematy techniczne pod linkiem.

The post Człowiek 2.0, czyli osobliwość się zbliża – Ł. Burzyński first appeared on Nowe Kształty.

W 1779 powodowany silnymi emocjami Ned Ludd zniszczył dwa krosna tkackie. Ten akt buntu, opisany w lokalnych gazetach, pozwolił mu użyczyć swojego nazwiska powstałemu trzy dekady później brytyjskiemu ruchowi luddystów. I chociaż sam Ned to postać fikcyjna, kaczka dziennikarska, to właśnie jego dane otrzymała policja, pytając o napastnika niszczącego kolejne przemysłowe tkalnie północnej Anglii.

A było co niszczyć. U progu XIX wieku przyśpieszająca Rewolucja Przemysłowa pozwoliła na tanią i masową produkcję tkanin. W efekcie tkacze, rzemieślnicy i chałupnicy tracili pracę, zastępowani przez fabryki zatrudniające szeroko dostępną, niewykwalifikowaną siłę roboczą. Warunki w przemyśle i na roli były złe, a postęp industrializacji pozwalał na kolejne zwolnienia pracowników i obniżki pensji. Niedawno zakończone Wojny Napoleońskie zostały wprawdzie przez Wielką Brytanię wygrane, cóż z tego, skoro wymusiły na mieszkańcach stale uwikłanego w walkę Albionu wiele wyrzeczeń, a ich zakończenie nie przyniosło znaczącej poprawy losu klasy niższej. W odpowiedzi, poza spodziewaną większą samoorganizacją i spółdzielczością, przegrani wielkich przemian zawiązali tajny Ruch Luddystów.

Ich strategia była prosta: atakowali w grupie, z zaskoczenia i w nocy, niszcząc obiekty przemysłowe oraz napastując handlowców i polityków. Koncentrowali się na znienawidzonych maszynach tkackich, które zabierając im pracę, skazywały na życie w nędzy. Nigdy nie wykształcili scentralizowanego dowództwa ani żądań politycznych, do końca pozostając ruchem nomen omen ludowym. Toteż w walce z profesjonalną armią oraz aparatem państwowym musieli ustąpić. Zdecydowane działania rządu, w tym wprowadzenie przepisów wymierzonych stricte w grupę oraz pokazowe procesy przyniosły polityczny koniec temu oryginalnemu ugrupowaniu.

W mainstreamie przetrwali jako synonim bezmyślnego ruchu oporu przed postępem techniki oraz szerzej, przed Zmianami oraz nadejściem Nowego. To okrutny opis. Bo cóż poza buntem pozostało rzemieślnikowi ery industrialnej? Od zawsze pracował przecież tak samo, aż nagle został zastąpiony przez bezduszną maszynę. Jego motywacja nie jest jednak dzisiaj ważna. Ruch luddystów upadł, a historię zawsze pisali zwycięscy.

Skoro luddyzm umarł na początku XIX wieku, po co wspominać o nim dwa stulecia później? Gdyż wielu ludzi niezadowolonych z kierunku, w którym zmierza świat, jest luddystami, a to zasadniczy błąd. Oczywiście nie w sferze estetyki czy propagandy, tam luddyzm odnosi sukcesy, choćby jako liczne, radykalne i naiwne ruchy ekologiczne. Stronnicy Ludda przegrali walkowerem w wyścigu technologicznym, a tym samym nie mieli szans w walce ekonomicznej i politycznej. Na tym samym polu i z tych samych powodów muszą ponieść porażkę wszyscy ich współcześni naśladowcy.

W konfrontacji przewaga jest po stronie dysponującej nowocześniejszą technologią. Duch, wiara czy dyscyplina są ważne, jednak przy zachowaniu równowagi, każdy obstawi stronę dysponującą nowszymi karabinami. Afganistan to wyjątek, normą jest Irak. Równocześnie postęp technologiczny w przewidywalnej przyszłości będzie tylko przyspieszał. Jest on jednak selektywny, najnowsze osiągnięcia będą ograniczane do nielicznych, najbardziej rozwiniętych krajów i grup, reszta może liczyć na rolę konsumentów i montowni. Dodatkowo jesteśmy świadomi zbliżających się konfrontacji na licznych poziomach: od globalnego, powiązanego ze wzrostem Chin, po lokalno-kulturowy, związany z ciągłymi atakami grup lewicowo-postępowych. Połączenie powyższych faktów pozwala wysnuć tylko jeden wniosek. Kto chce wygrać, musi zdobyć przewagę technologiczną. Kto chce tylko trwać, przegra.

Nie jest to sytuacja nowa, podobnego problemu doświadczyły kraje wprawdzie cywilizowane, ale technicznie zapóźnione w momencie kontaktu z euro-amerykańskim kolonializmem. Indie i Afryka przekonały się, że nawet najlepsza włócznia przegra z gwintowanym karabinem. Japonia dobitnie pokazała, że izolacjonizm to w istocie zamykanie oczu na problemy. Dopiero przyspieszona modernizacja wymuszona losem rozbieranych Chin pozwoliła jej uzyskać status równego gracza na arenie międzynarodowej.

Czyli chodzi tylko o nowsze czołgi na wypadek wojny z Rosją? Niestety nie, nowoczesne konflikty nie kończą się na polach bitew. CocaCola i kolorowe magazyny zabolały ZSRR bardziej niż Stingery przekazywane afgańskim bojownikom. Kultura masowa i wydolna gospodarka pozwoliły USA pokonać komunistyczne imperium bez wielkiej wojny i bombardowań. Ich znaczenie w ostatnich latach wzrosło jeszcze bardziej. Nasze pokolenie widzi kulturowe trzęsienie ziemi dokonane w ostatniej dekadzie przez media społecznościowe i usługi streamingowe w rękach rewolucji ideologicznej.

Wszelkie próby usuwania, blokowania czy zakazywania tych narzędzi są równie szlachetne i naiwne co walka luddystów z maszynami. Oczywiście, na chwilę pomogą, jak zakaz dystrybucji zachodnich mediów w PRL. Jednak próba wygrania przez zniszczenie narzędzi wroga, powstałych dzięki wyprzedzającemu nas postępowi technologicznemu, jest skazana na porażkę. Przewaga dotyczy nie tylko dziedzin ściśle technicznych, jak systemy informatyczne pozwalające na stworzenie Facebooka czy TikToka, ale również propagandy i psychologii, manipulując użytkownikami tych platform. Walka z oligopolem mediów społecznościowych byłaby walką z rzeszami wiernych im klientów, buntującymi się przeciwko ograniczaniu ich dostępu do ulubionych serwisów. Zakazanie Ubera jako firmy żerującej na dorywczych pracownikach skutkowałoby walką z klientami przyzwyczajonymi do jego relatywnie tanich usług.

Jedynym rozwiązaniem wydaje się wykorzystanie istniejących technologii, ich przyjęcie i dalszy rozwój. Jeśli nie można zamknąć oczu na istnienie państw i korporacji dominujących dzięki zaawansowanej technice, należy wykorzystać ją do swoich potrzeb. Na tym właśnie polega zasadnicze zerwanie z duchem luddyzmu, który stara się cofnąć wskazówki zegara i zakryć raz odkryte wynalazki. Każdy niezadowolony ze współczesnego świata działacz musi najpierw przyznać, że został pobity przez nowy rodzaj broni, by następnie wykorzystać go do swoich celów.

The post Paweł Leszczak: Luddyzm wczoraj i dziś first appeared on Nowe Kształty.