Panoptykon 4.0

ChatGPT i inne duże modele językowe od wielu miesięcy są już używane w funkcji asystentów głosowych. Z badań wiemy, że blisko 1/3 Polaków korzysta z głosowego wyszukiwania na swoich telefonach. Jak jeszcze używamy sztucznej inteligencji?

„Jeśli nie sprzeciwimy się akcesji Ukrainy do Unii Europejskiej, zrujnujemy rolników!”. „Ukraińskie kurczaki to nieuczciwa konkurencja”. Emocjonalne wpisy o zniszczeniu przyszłości młodych Polaków – to tylko kilka przykładów z ponad 4000 sponsorowanych treści kolportowanych przez powiązaną z Rosją siatkę „Doppelganger”.

Choć od lat człowiek może w sekundę znaleźć dowolną informację, dalej spędza dwie pierwsze dekady życia wkuwając na pamięć. Nauczyciele nie mają przestrzeni, by uczyć współpracy z technologią i jej kreatywnego wykorzystania. Zamiast tego skupiają się na sprawdzaniu, czy uczniowie przepisywali fragmenty Wikipedii czy posługiwali się Chatem GPT do pisania wypracowań. Tylko, po co komu takie zadanie, skoro sprawdzian polega na odtworzeniu danych, które są dostępne w internecie, a rozprawka nie wymaga wypracowania oryginalnego punktu widzenia?

W umowie koalicyjnej zawartej między partiami tworzącymi dziś rząd umieszczono ważną dla nas deklarację: „Koalicja wprowadzi skuteczny mechanizm kontroli wykonywania czynności operacyjno-rozpoznawczych przez służby”. Jednak natura dokumentów programowych jest taka, że trudno zdefiniować, co dokładnie autorzy mieli na myśli i co według nich oznacza skuteczność.

Urzędujący minister zdrowia sięga do prowadzonej przez resort bazy danych dotyczących zdrowia i leczenia, po informacje, których użyje do próby zdyskredytowania lekarza, który go krytykował. To jednostkowy incydent, który nie powinien mieć miejsca. Ale już wykradzenie danych z bazy laboratorium ALAB, wyciek danych ze środowiska testowego firmy MEDILY, która dostarczała oprogramowanie jednej z wrocławskich klinik to incydenty, jakich – niestety – wiele, jeśli chodzi o dane medyczne.

Kto w państwie powinien mieć dostęp do historii medycznej? Na przykład, by sprawdzić, czy konkretna osoba jest w ciąży albo pacjent choruje przewlekle i leczy się w szpitalu. Dla wielu będzie oczywiste, że dostęp powinien mieć przede wszystkim lekarze lub lekarki. Ewentualnie inny kluczowi pracownicy ochrony zdrowia. Ale przecież dostęp do danych medycznych, szczególnie digitalizowanych, ma dostęp większa liczba osób: od administratorów systemów po Ministerstwo Zdrowia. W przyszłości może nawet algorytmy sztucznej inteligencji.

W marcu 2024 r. Parlament Europejski zagłosował nad aktem o sztucznej inteligencji. Co prawda trwa jeszcze uzgadnianie wersji językowych, ale można się spodziewać, że kolejne prace i zatwierdzenie tekstu będzie już tylko formalnością. A więc mamy to – pierwszą na świecie tak kompleksową regulację systemów wykorzystujących sztuczną inteligencję. Jakie budzi reakcje? Przewidywalnie, skrajne. Dla jednych to zamach na innowację i przejaw słabości Unii Europejskiej. Dla drugich przeciwnie, bo jest tu pole do popisu dla audytorów i bezpieczne piaskownice dla start-upów.

Zmiana polityczna, do jakiej doszło w wyniku wyborów w październiku 2023 r., wywołała u części społeczeństwa ogromną potrzebę rozliczenia ostatnich lat.  Potrzebę tę, z zachowaniem proporcji, można porównać do tej po zakończeniu PRL-u. A komisje śledcze mają teraz być podstawą do takich rozliczeń. Przyjęta w 1989 r. polityka tzw. grubej kreski dała paliwo do wieloletnich sporów o lustrację czy tzw. dezubekizację. Zamiast patrzeć w przyszłość, politycy próbowali zaspokoić potrzebę części społeczeństwa, by rozliczyć przeszłość i ukarać winnych.

W listopadzie ubiegłego roku Amnesty International opublikowało badanie pokazujące, jak szybko i skutecznie algorytm TikToka profiluje nastoletnich użytkowników, dostosowując rekomendacje pod niepokój i smutek. Wystarczyło 20 minut scrollowania, by strumień treści zdominowały filmiki o zmaganiach z problemami psychicznymi. Po godzinie doszły do tego treści gloryfikujące samobójstwo.

Co zrobić, kiedy twoje dane osobowe są wykorzystywane niezgodnie z prawem? Gdy firma wymusza na tobie podanie kolejnych i kolejnych informacji? Albo masz wrażenie, że ślady twojej aktywności w internecie łączą się w kompletny profil osobowy, a potem setki firm bezwzględnie wykorzystują go do wciskania niechcianych towarów i usług? Do pomocy w takich sytuacjach powstał Urząd Ochrony Danych Osobowych.

Media lubią rankingi, dlatego pod koniec roku głośno było o wynikach PISA – badania, które co trzy lata sprawdza i porównuje kompetencje uczniów z kilkudziesięciu krajów w trzech dziedzinach: czytanie, matematyka i rozumowanie w naukach przyrodniczych. Okazało się, że po raz pierwszy od 20 lat polski wynik pogorszył się w porównaniu do poprzedniej edycji.

Od kilku lat w internecie krąży obrazek autorstwa Johna Jonika. Przedstawiciel amerykańskiej władzy jest w sklepie. Ma przy sobie przy sobie pudełko, w którym znajduje się „kontrola komunikacji w internecie”. Sprzedawca pyta: „jak zapakować – w antyterroryzm czy ochronę dzieci”? Pudełko mogłoby zawierać dowolne sposoby masowej inwigilacji. Najważniejsze jest jednak opakowanie, w które „owinie się” takie inwigilacyjne metody. A uzasadnienia kontroli są przewidywalne. Terroryzm lub ochrona dzieci.

W nocy z 8 na 9 grudnia 2023 r. Komisja Europejska, Parlament i Rada skończyły negocjacje rozporządzenia o sztucznej inteligencji. Po 36 godzinach. Komisarz Breton mógł ogłosić wreszcie, że to Unia Europejska przyjmie pierwsze na świecie prawo regulujące AI. Akt o sztucznej inteligencji był jednym z flagowych projektów tej Komisji, który miał zadowolić wszystkich: rynku nie przeregulować, inwestorów nie wystraszyć – a wręcz przyciągnąć – konsumentów uspokoić. Europa miała się stać inkubatorem godnej zaufania, bezpiecznej i dobrej technologicznie sztucznej inteligencji.

Worried about your health? Facebook won't let you forget. Facebook competes for users' attention by exploiting its knowledge of their anxieties and weaknesses, and the buttons which are supposed to hide unwanted content do not work as they promise. A new study by the Panoptykon Foundation led by Piotr Sapieżyński, PhD, of Northeastern University (Boston) has been released.

Zapraszamy na odcinek specjalny, połączony z premierą badania Fundacji Panoptykon „Algorytmy Traumy 2” we współpracy z Piotrem Sapieżyńskim z Northeastern University. Z social mediów w Polsce korzysta ponad 26 mln osób. To prawie 90% wszystkich użytkowników Internetu w kraju. Wszyscy oni zetknęli się z treściami, które wybrał dla nich algorytm platform.

W sierpniu tego roku były minister zdrowia Adam Niedzielski ujawnił informacje o recepcie wystawionej przez lekarza, który dzień wcześniej publicznie wskazał na błędy w systemie. Wielu osobom czekającym na wizytę u lekarza przeszła wtedy, być może po raz pierwszy, przez głowę myśl: jakie ślady zostaną po tej wizycie? Kto będzie mógł do nich zajrzeć? Po tej aferze aż 61 procent Polek i Polaków deklarowało brak zaufania do systemu. Politycy PiS przekonywali, że dane są bezpieczne, bo nie odnotowano masowych wycieków, a niskie zaufanie to wina braku edukacji społeczeństwa.

W 2012 r. dziesiątki tysięcy ludzi wyszło na ulice polskich miast, w proteście przeciwko podpisaniu porozumienia ACTA. Dlaczego protestowali? Przede wszystkim z obawy o to, że wielkie platformy internetowe staną się jak policja: będą monitorować ruchy użytkowników w sieci i surowo ścigać naruszenia praw autorskich. A może po prostu nie chcieli, by skończyło się darmowe ściąganie muzyki i oglądanie filmów? Historia przecież uczy, że ludzie rzadko wychodzą na ulice z powodów ideowych, częściej dlatego, że coś ważnego lub cennego zostało im odebrane.

Jesteśmy 10 dni po ogłoszeniu wyników wyborów. Przez Polskę przetacza się dyskusja o informacjach ujawnionych przez Pawła Wojtunika, zgodnie z którymi Centralne Biuro Antykorupcyjne miało (wciąż ma?) podsłuchiwać polityków i polityczki Trzeciej Drogi. Tematów, którymi powinien zająć się nowy rząd nie brakuje: edukacja, ochrona zdrowia, praworządność czy publiczne media. Ale informacje ujawnione przez Wojtunika pokazują, że reforma służb specjalnych na tej liście powinna zajmować wysokie miejsce. Bo stawka jest szalenie wysoka.

Dlaczego dzieci siedzą w internecie i czy to źle? W dzisiejszym odcinku Katarzyna Szymielewicz rozmawia o tym, jak młodzi korzystają z sieci oraz jak się chronią przed zagrożeniami. 13-latka spotyka w sieci „legendę” polskiego YouTube'a. Z sieci przenoszą się na ulicę, a potem do hotelu. I nie była to jedyna nastolatka. Relacje takich ofiar uruchomiły lawinę oskarżeń. Otworzyły puszkę Pandory, którą śledziły miliony.

Wyobraźmy sobie, że partie polityczne nie mają już programów, nie prowadzą spójnej kampanii wyborczej, w której składają publiczne obietnice. Że debata publiczna toczy się tylko na platformach internetowych, które każdemu wyborcy serwują profilowany przekaz, skrojony na miarę pod konkretnych użytkowników.

O uwadze, o tym, czy sama szkoła może pomóc zaradzić temu, że zanika, a także o tym, jaką w tym wszystkim rolę pełnią platformy internetowe – Katarzyna Szymielewicz rozmawia z Anną Cieplak, pisarką, animatorką kultury, edukatorką oraz Michałem Krzykawskim, który na Uniwersytecie Śląskim w Katowicach kieruje Centrum Badań Krytycznych nad Technologiami.

Jak wygląda decydowanie o formie komunikacji w służbach czy wojsku? O wizerunku służb specjalnych i o tym, dlaczego nie cieszą się one społecznym zaufaniem Wojciech Klicki rozmawia z Anną Grabowską-Siwiec – byłą oficerką Agencji Bezpieczeństwa Wewnętrznego oraz Sylwią Kuligowską – specjalistką ds. PR związaną z branżą zbrojeniową.

W ostatnim odcinku podcastu Panoptykon 4.0 przed wakacyjną przerwą Katarzyna Szymielewicz rozmawia z Kubą Piwowarem, socjologiem z Centrum Kulturowych Badań Technologii na Uniwersytecie SWPS, autorem książki „Technologie, które wykluczają. Pomiar, dane, algorytmy”, od 15 lat zawodowo związanym z firmą Google.

„Czy to dobry czas, żeby uregulować AI? Moja odpowiedź brzmi: zdecydowanie tak. To dobry czas ze względu na to, jak ogromne znaczenie ma AI” – powiedział Dragoș Tudorache, jeden ze sprawozdawców ds. aktu o AI, tuż przed tym, jak Parlament Europejski zagłosował nad rozporządzeniem.

4 czerwca ulicami Warszawy przeszedł kilkusettysięczny marsz, którego uczestnicy protestowali przeciwko rządowi – jego atakom na praworządność i ustawie o wpływach rosyjskich (tzw. lex Tusk). Co konkretnie miałoby się zmienić po wyborach, jeśli wygrałaby je opozycja? Politycy obiecują przywrócenie praworządności, w tym zreformowanie służb specjalnych. Dlaczego mielibyśmy wierzyć tym zapewnieniom, kiedy kwestia niekontrolowanej inwigilacji praktycznie nie pojawiała się przed aferami uderzającymi w polityków.

Dziś obchodzimy Dzień Dziecka, ale ten odcinek jest dla dorosłych. O tym, jak rozpoznać oznaki FOMO u swojego dziecka i co zrobić, żeby nasze dzieci mogły z uśmiechem odłożyć telefony i „wylogować się” do życia, porozmawiamy z Martą Witkowską, psycholożką, która zajmuje się profilaktyką, diagnozą i interwencją w obszarze zdrowia psychicznego dzieci i młodzieży oraz uczestniczy w wieloletnim projekcie badań nad FOMO prowadzonym przez NASK.

Kamery rozpoznające twarze. Bramki na lotniskach. Drony skanujące las, żeby wykrywać nielegalne wysypiska. I drony skanujące las na granicy, żeby wykrywać ludzi. Mówiące lodówki i Chat GPT. Systemy i urządzenia, które wykorzystują sztuczną inteligencję, są wśród nas i pełnią bardzo różne funkcje. Czasem ich błąd nic nas nie kosztuje, czasem jednak robi się poważnie, gdy wchodzimy na pole medycyny, rekrutacji czy wymiaru sprawiedliwości.

Czym są duże modele językowe i czy znamy ich potencjał? Czy szum wokół sztucznej inteligencji, z którym mamy teraz do czynienia, jest uzasadniony? Jak to wszystko wpływa na prace nad AI Act i powstanie europejskiego modelu regulacji AI? O tym w dzisiejszym odcinku podcastu. Gościem Katarzyny Szymielewicz jest dr Tomasz Odrzygóźdź, badacz IDEAS NCBR i doktor Polskiej Akademii Nauk.

W tym odcinku Wojciech Klicki rozmawia z Kubą Orlikiem, współzałożycielem inicjatywy: „Internet. Czas działać!”. Nazwa organizacji doskonale oddaje bliskie nam podejście: zamiast biadolić, Kuba wyznaje filozofię, że czas zakasać rękawy i działać. W rozmowie pokazuje różne metody na to, by odzyskać kontrolę nad technologią.

Dziś w podcaście gości Magdalena Bigaj, współautorka badań nad higieną cyfrową, założycielka i prezeska Instytutu Cyfrowego Obywatelstwa, autorka książki Wychowanie przy ekranie. Jak przygotować dzieci do życia w sieci? W rozmowie z Katarzyną Szymielewicz mówi o teście higieny cyfrowej i potrzebie dyskusji o odpowiedzialności za wspólną przestrzeń cyfrową.

W tym odcinku Katarzyna Szymielewicz rozmawia z doktorem Jakubem Kusiem, psychologiem z Uniwersytetu SWPS. Ekspert wyjaśnia mechanizmy, jakie nami rządzą w mediach społecznościowych. Dlaczego inaczej odbieramy te same słowa i zachowania online i offline? Dlaczego tak chętnie wchodzimy do internetowego kasyna i gramy w nim ostrzej, niż byśmy sobie pozwolili w tzw. prawdziwym życiu? No i jak z tego wyjść, jak odzyskać autonomię i przełączyć się z FOMO na JOMO – radość z przegapiania?

Kilka lat temu firma Amazon zaliczyła wizerunkową wpadkę, kiedy wyszło na jaw, że testowany przez nich system wspierający rekrutację wyraźnie dyskryminował CV kobiet. Jak zwykle w takich przypadkach okazało się, że zawinił brak refleksji nad danymi, na których uczył się rekrutacyjny algorytm. CV osób zatrudnionych w poprzednich 10 latach pochodziły przeważnie od mężczyzn, więc nowy system również preferował podobne.

W dzisiejszym odcinku Wojciech Klicki gości osoby znające aferę Pegasusa od podszewki: senatora Krzysztofa Brejzę, który padł ofiarą inwigilacji, będąc szefem sztabu największej partii opozycyjnej, oraz jego żonę, mecenas Dorotę Brejzę, reprezentującę go w sprawach, które senator podjął w celu pociągnięcia do odpowiedzialności osób stojących za wykorzystaniem Pegasusa.

Dwie polskie organizacje zablokowane przez Facebooka – Społeczna Inicjatywa Narkopolityki i partia Konfederacja – złożyły w Sądzie Okręgowym w Warszawie pozwy przeciwko platformie. 7 lutego odbyła się pierwsza rozprawa SIN vs Facebook. O jej przebiegu i nadziejach związanych z procesem mówiła Wojciechowi Klickiemu Dorota Głowacka z Fundacji Panoptykon. W podobnej sytuacji, choć jeszcze przed rozprawą, jest ​Konfederacja. O tym, co mogłaby zmienić wygrana z internetowym gigantem, mówi Maciej Gawroński, radca prawny reprezentujący Konfederację.

O to, jak uspołecznić technologię i czy biznesowi opłaca się działanie na rzecz środowiska – Zuzannę Skalską pyta Katarzyna Szymielewicz z Fundacji Panoptykon.

W noworocznym odcinku podcastu Panoptykon 4.0 Katarzyna Szymielewicz i Wojciech Klicki podsumowują minione 12 miesięcy okiem ekspertów zaangażowanych w gorące politycznie tematy. Co się działo na froncie bezprawnej inwigilacji w Polsce? Jak wielkie platformy internetowe zareagowały na rosyjską agresję i czego oczekiwał od nich polski rząd?

W dzisiejszym odcinku prowadzący podcast Panoptykon 4.0 – Katarzyna Szymielewicz i Wojciech Klicki – rozmawiają z Tomaszem Stawiszyńskim: sceptycznym entuzjastą teorii spiskowych, filozofem i publicystą.

Jak wygląda praca ludzi demaskujących fake newsy i czy ten wysiłek w ogóle ma sens? Czy platformy pomagają czy bardziej przeszkadzają w docieraniu do prawdy? W tym odcinku Katarzyna Szymielewicz rozmawia z Mateuszem Cholewą – analitykiem organizacji Demagog (pierwszej w Polsce organizacji fact-checkingowej).

Dane z rynku pokazują, że TikTok wciąga szybciej niż inne platformy serwujące treści wideo i skuteczniej trzyma uwagę. Efekt, który zachwyca inwestorów i media branżowe, intryguje dziennikarzy śledczych. Jak działa algorytmiczny silnik TikToka? Czy swoją skuteczność zawdzięcza m.in. wykrywaniu i wykorzystywaniu ludzkich słabości? Sprawdzamy! W dzisiejszym odcinku podcastu Panoptykon 4.0 Katarzyna Szymielewicz rozmawia z Jakubem Olkiem – szefem relacji z partnerami publicznymi na Europę Środkową i Wschodnią w TikToku.

Jak wejść w dialog z pracownikami służb? Czego właściwie potrzebują funkcjonariusze i czego oczekują od ewentualnej reformy? W dzisiejszym odcinku Panoptykonu 4.0 Wojciech Klicki rozmawia z Arturem Dubielem, który zna realia pracy w służbach.

Mija rok od ujawnienia skali nadużyć Pegasusa w Polsce. Jednak pokusie totalnej inwigilacji uległy też inne kraje UE. W tym odcinku rozmawiamy z Bartoszem Arłukowiczem – członkiem Komisji Śledczej Parlamentu Europejskiego ds. Pegasusa i innych programów szpiegujących.

W tym roku Unia Europejska pracuje nad aktem o sztucznej inteligencji, który z jednej strony ma zwiększyć zaufanie ludzi do tej technologii, z drugiej – wspierać rozwój innowacji, a więc szanse europejskich firm w technologicznym wyścigu. W strategii sprzed dwóch lat Komisja Europejska chciała oba te cele pogodzić w podejściu, które oddaje jedno słowo: excellence. Doskonała technologia. Dobrze zaprojektowana, skuteczna i budząca zaufanie.

W tym odcinku proponujemy wam pogłębioną diagnozę kryzysu technologicznego, który zredukował obywateli i konsumentów do roli pasywnej biomasy. Ten kryzys – podobnie jak kryzys ekologiczny – ma swoje źródła w kapitalizmie. Ale to jeszcze nie oznacza, że nie da się go zatrzymać.  

Polska nie daje obywatelom żadnej ochrony przed nadużyciami. Policjanci mogą pobrać billingi w czasie, który wystarcza do zaparzenia herbaty. Dlatego w 2019 roku aktywiści z Fundacji Panoptykon, Helsińskiej Fundacji Praw Człowieka i mec. Mikołaj Pietrzak złożyli skargę przeciwko Polsce do Europejskiego Trybunału Praw Człowieka.

Pewnego dnia Chermaine odebrała list z urzędu skarbowego, w którym żądano od niej zwrotu zasiłków wypłacanych jej przez ostatnie cztery lata na opiekę nad dziećmi. Kwota: 100 tysięcy euro.

Algorytmy największych platform internetowych kontrolują dziś nastroje, opinie i interakcje społeczne. Wpływają na kierunki debaty publicznej i dyktują reguły gry na wojnie informacyjnej. Realna władza w rękach cybergigantów zaniepokoiła w końcu polityków i stała się jednym z powodów regulacyjnej ofensywy Unii Europejskiej.  

W tym odcinku podcastu Panoptykon 4.0 poruszymy tematy niewygodne dla platform i rządów, a zarazem ogromnie istotne dla konsumentów. Rozmawiamy o unijnych regulacjach, które zmienią oblicze Internetu: akcie o usługach cyfrowych (DSA) i akcie o rynkach cyfrowych (DMA).

Obawialiśmy się Zintegrowanej Platformy Analitycznej, która – naszym zdaniem – jest podatna na nadużycia. Nazywaliśmy ją nawet „megabazą o Polakach” czy „Orwellem po polsku”. Rozmawiamy dzisiaj z jednym z pomysłodawców ZPA.

„Przed snem wysłałem kilka maili, przeczytałem wiadomości na dwóch portalach, przez godzinę oglądałem film” – brzmi jak małe czynności? A zastanawiasz się, ile twój wieczór kosztował planetę?

Kwiecień jest dla nas szczególnym miesiącem – właśnie mija 13. rocznica powstania Fundacji Panoptykon. Z tej okazji zapraszamy was na specjalny podcast – tym razem to my jesteśmy gośćmi i odpowiadamy na trudne pytania.

W Panoptykonie jesteśmy przyzwyczajeni do sytuacji, w której funkcjonariusze państwowi twierdzą, że inwigilacja w Polsce jest pod kontrolą albo nie jest nadużywana. A co w sytuacji, kiedy to funkcjonariuszka staje się ofiarą inwigilacji?