„Jeśli zrozumiemy ten slajd, wygramy wojnę” – powiedział w 2009 roku generał Stanley A. McChrystal, dowódca sił NATO w Afganistanie, gdy pokazano mu poniższy schemat. Wyjaśnia on amerykańską strategię w Afganistanie.
Inny amerykański generał powiedział: „PowerPoint nas ogłupia”. Jeszcze inny uznał program do tworzenia prezentacji za „zagrożenie wewnętrzne” i zakazał jego stosowania. Dlaczego? PowerPoint został wymyślony i kochamy go, bo wydaje nam się, że ułatwia przekazywanie informacji. Nie zdajemy sobie jednak sprawy z negatywnych skutków jego używania.
Okazuje się, że przedstawianie informacji w formie prezentacji daje nam złudzenie zrozumienia i kontroli. Nawet najbardziej skomplikowany problem można zamienić w przejrzystą listę punktów. Po drodze niestety gubimy zawiłości i szczegóły oraz skomplikowane związki między zjawiskami. Dodatkowo forma spotkań, podczas których jedna osoba zarządza kluczowymi informacjami, ogranicza dyskusję i krytyczne myślenie.
Właśnie dlatego Jeff Bezos zakazał w Amazonie spotkań w formie prezentacji. Gdy ktoś chce przedyskutować nowy pomysł, musi opisać go na kilku stronach. Na początku spotkania uczestnicy w ciszy czytają notatki, a następnie przechodzą do zadawania pytań.
PowerPoint to tylko jeden z wielu przykładów narzędzi, które na pierwszy rzut oka wydają się rozwiązywać jakiś problem, a w rzeczywistości tworzą nowe, często poważniejsze od tych rozwiązywanych. Za naszą miłością do tego typu technologii stoi ideologia technooptymizmu. Ten artykuł ma nas choć trochę na nią uodpornić. To z kolei powinno poprawić nasze zrozumienie złożonych relacji między technologią a jej użytkownikami. W efekcie zaś – umożliwić projektowanie lepszych produktów i usług.
Technologiczny solucjonizm
Szczególnie szkodliwą odmianą technologicznego optymizmu jest solucjonizm. Zjawisko to najlepiej opisał Evgeny Morozov w książce „To save everything click here”. Ten artykuł w znacznym stopniu na niej bazuje.
Czym jest technologiczny solucjonizm? To przekonanie, że do rozwiązania wszystkich problemów ludzkości wystarczą odpowiednie narzędzia i dostateczna moc obliczeniowa. To fascynacja prostymi rozwiązaniami niezwykle skomplikowanych problemów. Za najkrótsze podsumowanie solucjonizmu uważam cytat z książki Umberto Eco:
Każdy skomplikowany problem ma proste rozwiązanie i jest ono błędne.
Ulepszanie w nieskończoność
Cechą charakterystyczną solucjonistów jest chęć ulepszania wszystkiego. Jeśli coś da się ulepszyć, to znaczy, że jest tam problem do rozwiązania. A to z kolei powoduje, że solucjoniści uznają czasem za problem coś, co problemem nie jest. Podam przykład dotyczący dostępu do danych publicznych, pochodzący z książki Morozova.
Dostęp do danych publicznych może być łatwiejszy bądź trudniejszy, szerszy lub węższy. Solucjoniści oczywiście chcieliby, aby był on jak najłatwiejszy i najszerszy. Nie biorą niestety pod uwagę negatywnych konsekwencji. Weźmy jako przykład mapy przestępczości udostępniane w internecie przez policję.
Pierwsza myśl – świetne rozwiązanie! Każdy może sprawdzić nasilenie zjawiska przestępczości w swoim mieście. Ale jest i druga strona medalu. Pewna firma ubezpieczeniowa przeprowadziła badanie, które pokazało, że 11% świadków przestępstw nie zgłosiło ich na policję. Dlaczego? Z obawy, że przełoży się to na spadek ceny ich nieruchomości. Dobre w zamierzeniu rozwiązanie ma konsekwencje gorsze od problemu, który rozwiązuje, czyli łatwiejszego dostępu do danych.
Święte wskaźniki
Kolejną cechą charakterystyczną solucjonizmu jest przypisywanie wartości tylko temu, co da się zmierzyć, bo tylko to, co da się zmierzyć, można ulepszyć. Wniosek: jeśli czegoś nie da się zmierzyć, to nie warto tego robić. Mierniki, KPI, wskaźniki są postrzegane jako obiektywne i święte, podczas gdy w rzeczywistości ich wybór jest wynikiem subiektywnych decyzji.
Warto pamiętać, że przerabianie świata na dane dla komputerów prowadzi do ogromnych uproszczeń. Allison Parrish w fantastycznej prezentacji mówi o tym, że programowanie to zapominanie – zapominanie o tym wszystkim, czego nie uwzględniliśmy w systemie. Autorka pokazuje to w ten sposób.
Tak naprawdę ten szary wycinek jest nieskończenie mały, bo rzeczywistość jest nieskończenie skomplikowana. Oznacza to, że dane, na których operujemy, prawie na pewno mają mało wspólnego z analizowanym zjawiskiem. Nie oddają jego złożoności i wszystkich istotnych czynników.
Epokalizm
Kolejną pułapką technooptymistów, o której pisze Morozov, jest epokalizm. To przekonanie, że narodziny internetu zapoczątkowały zupełnie nową epokę w rozwoju ludzkości. A skoro żyjemy w innej epoce, to nie powinny nas krępować stare zasady. Trwa rewolucja, upada stary porządek, nowy dopiero się tworzy. Wszystko wolno, nie należy w żaden sposób hamować postępu.
Morozov zachęca do przyjęcia na chwilę odwrotnej perspektywy: pomyślcie, że internet nie zmienia niczego. Autor cytuje historyka Marshalla Poe, który mówi mniej więcej coś takiego:
Internet to poczta, kiosk z gazetami, wypożyczalnia wideo, galeria handlowa, salon gier, kasyno i sex shop w jednym. OK, to naprawdę niesamowite. Ale to niesamowite w ten sam sposób, w jaki niesamowita jest zmywarka do naczyń – pozwala robić rzeczy trochę łatwiej niż wcześniej.
To duże uproszczenie, ale z drugiej strony dlaczego uproszczenie o rewolucji technologicznej ma być bardziej właściwe? Miejmy trochę pokory. Nasze czasy wcale nie są tak wyjątkowe.
Jednym z fundamentów wiary w cyfrową rewolucję jest przekonanie, że internet umożliwia porozumienie między ludźmi tak doskonałe jak nigdy wcześniej. Ale taka wiara nie jest nowa.
Już w połowie XIX wieku przewidywano, że transport drogowy zlikwiduje podziały między narodami i doprowadzi do tego, że w niedługim czasie wszyscy będą mówić tym samym językiem. Mniej więcej w tym samym okresie francuski minister twierdził, że telegraf zmniejszy liczbę wojen na świecie, bo wojny biorą się z niezrozumienia między ludźmi. Przypominam, że słowa te padły przed obiema wojnami światowymi.
Technodefetyzm
Oto cecha, która najbardziej dziwi mnie u technooptymistów. Wielu z nich, jak się okazuje, to technologiczni defetyści – uważają, że nie mamy wpływu na technologię. Że rozwija się ona jakimś z góry ustalonym tokiem i nic nie jest w stanie tego zmienić. Opór jest daremny. Dziwi mnie to tym bardziej, że często technodefetystami są ludzie uważani za innowatorów, np. pracownicy start-upów czy managerowie firm IT.
Technodefetysta wierzy, że jedynym sposobem reakcji na nową technologię jest zmiana prawa i dostosowanie się społeczeństwa. Jeśli krytykujesz nową technologię i protestujesz, to jesteś naiwnym przegrywem, który nie rozumie, jak działa świat. Tak jak taksówkarze protestujący przeciwko Uberowi, którzy rzekomo nie walczą z amerykańską korporacją, ale z samym Wielkim Postępem Technologicznym.
Osoby wierzące w niepowstrzymany marsz technologii opierają swoje przekonanie na wybiórczych przykładach. Należy do nich historia aparatu fotograficznego, który wywołał dyskusje o prywatności, ale w końcu nauczyliśmy się z nim żyć.
Skoro społeczeństwo dostosowało się do aparatów fotograficznych, to dlaczego nie możemy zrobić tego samego z Uberem? To nie takie proste. Fotografia to tylko jedna z wielu technologii, a dostosowanie się społeczeństwa to tylko jeden z wielu sposobów reakcji na nową technologię. Historia zna przykłady, gdy to ludzie dostosowali technologię do siebie.
W miastach na początku XIX wieku panował ogromny hałas. To czasy, gdy drogi były wybrukowane i nie używano gumowych opon. W odpowiedzi na nasilający się problem ludzie zaczęli się organizować i walczyć z hałasem.
Oczywiście także w XIX wieku byli tacy, którzy uważali, że hałas jest nieunikniony, a ludzie muszą się przyzwyczaić. Przeciwnicy hałasu byli nazywani przewrażliwionymi fanatykami próbującymi powstrzymać postęp. Na szczęście ostatecznie to oni wygrali. Doprowadzili między innymi do wprowadzenia tłumików w pojazdach, gumowych opon i wyciszenia nawierzchni dróg. Hałasu nie udało się wyeliminować całkowicie, ale sytuacja znacząco się poprawiła.
A co z motoryzacją, jedną z największych innowacji ostatnich dwustu lat? Czy dziwi nas, że produkcja i używanie aut obwarowane jest tyloma przepisami? Czy wyobrażamy sobie świat bez przepisów o ruchu drogowym? Bez wymogów dotyczących bezpieczeństwa pasażerów?
Skoro już jesteśmy przy motoryzacji. Niedawne strajki taksówkarzy wywołały u kilku moich znajomych mniej więcej takie reakcje:
Dlaczego taksówkarze nie rozumieją, że ten zawód ma przed sobą max 5–8 lat? #automatyzacja
Zastanawiam się, co ten kreatywny przedsiębiorca z branży nowych technologii miał na myśli. Czy uważa, że dla taksówkarzy lepszą strategią jest poddać się i siedzieć cicho, niż próbować walczyć o lepsze warunki na te kilka lat? Dodam, że chciałem założyć się z autorem cytatu, że za pięć lat zawód taksówkarza nadal będzie istniał. Kolega nie przyjął zakładu, więc chyba sam zwątpił w swoją prognozę.
Pułapki postępu
Wielu technooptymistów wierzy w nadejście technologicznej osobliwości, po której dobra i potężna sztuczna inteligencja zaopiekuje się nami wszystkimi. Mój znajomy, Marcin Zaremba powiedział kiedyś, że wiara ta przypomina mu wiarę religijną. Tylko w ten sposób można tłumaczyć przekonanie, że w niedającej się przewidzieć przyszłości spośród niezliczonej liczby możliwych scenariuszy ziści się akurat ten pozytywny dla ludzkości.
Najlepszym powodem, aby przestać wierzyć w niepowstrzymany marsz technologii, jest to, że nie ma żadnego uniwersalnego prawa, którym rozwój technologii się rządzi. Ray Kurzweil w swoich prognozach dotyczących nadejścia technologicznej osobliwości oparł się na tzw. prawie Moore’a i rozciągnął je z informatyki na inne dziedziny.
Problem w tym, że prawo Moore’a nie istnieje. Morozov w „To save everything click here” przywołuje badania, które przeprowadził Ilkka Tuomi. Zwraca przy tym uwagę, że Moore zmieniał sformułowane przez siebie prawo dwukrotnie i że nie zostało ono potwierdzone solidnymi badaniami.
Jest jeszcze co najmniej jeden dobry powód, aby nie wierzyć w postęp technologiczny jako niepowstrzymany i zmierzający zawsze w dobrą stronę. Otóż historia ludzkości zna przypadki, gdy wykorzystanie technologii doprowadzało do upadku cywilizacji.
Ronald Wright w książce i serii wykładów „A short history of progress” spopularyzował termin „pułapka rozwoju”. Określa on sytuację, w której społeczeństwo, goniąc za postępem, tworzy nowe problemy, których nie potrafi rozwiązać, bo brakuje mu zasobów albo woli politycznej. Brak chęci rozwiązania nowych problemów wynika z obawy przed krótkoterminowym obniżeniem statusu i jakości życia. Z kolei narastanie problemu prowadzi do zatrzymania rozwoju lub nawet upadku cywilizacji.
Brzmi zawile, a więc przykład. Dla naszych przodków postępem było wymyślenie włóczni, która pozwalała zabić dużego zwierza. Kolejnym krokiem był łuk. Ale w niektórych regionach skuteczne metody myśliwskie doprowadziły do wybicia zwierzyny, braku pożywienia i w efekcie upadku plemienia.
Wracając do naszych czasów. Dobrym przykładem pułapki rozwoju jest wykorzystanie paliw kopalnych, jak ropa i węgiel.
Globalne emisje węgla z paliw kopalnych w latach 1800–2007
Przez długi czas czerpaliśmy z tego wiele korzyści. W którymś momencie jednak została przekroczona granica i rozpoczął się proces globalnego ocieplenia, który może doprowadzić do upadku całej ludzkiej cywilizacji.
Czy istnieje obecnie więcej takich technologii? Zastanówmy się przez chwilę. Ile czasu łącznie wszyscy ludzie na świecie spędzają w social media? Ile uwagi im poświęcamy? Jak zmieniły one relacje społeczne, politykę, dziennikarstwo, postrzeganie prywatności? Jakie nowe problemy wygenerowały?
Może social media są kolejną pułapką rozwoju?
Internetocentryzm
Ostatnią pułapką technologicznego optymizmu jest zjawisko nazwane przez Morozova internetocentryzmem. Polega ono na dwóch założeniach:
- Istnieje coś takiego jak mityczny „internet”. Po co cudzysłów? Aby odróżnić go od internetu jako technologicznej infrastruktury. „Internet” to twór wyobrażony, któremu przypisuje się moc obalania rządów czy uzależniania ludzi. Wiecie, chodzi o te newsy w TV o ludziach uzależnionych od „internetu”.
- Drugie założenie internetocentryzmu to przekonanie, że „internet” to ostateczny wzór dla wszystkich innych dziedzin życia. Że „internet” oparty jest na jakichś uniwersalnych, obiektywnych zasadach, które mają zastosowanie zawsze i wszędzie.
Według Morozova nie istnieje coś takiego jak jedna logika „internetu” czy jeden wspólny zbiór reguł nim rządzących. Właściwszym podejściem jest analizowanie każdej platformy, serwisu czy technologii z osobna.
Popularność internetocentryzmu wynika moim zdaniem z tego, że wszyscy widzimy, jak błyskawicznie rozwija się branża IT. Firmy, jak Facebook i Google, w ekspresowym tempie zarobiły miliardy dolarów i stały się największymi potęgami na świecie. Ich założyciele stali się guru i wyroczniami cytowanymi przez media na całym świecie. Ulegliśmy złudzeniu, że za sukcesem biznesowym stoją jakieś uniwersalne zasady, reguły i wzorce.
Morozov zauważa, że internetocentryzm wdziera się do wszystkich dziedzin życia i wprowadza tam swoje wartości, głównie otwartość i transparentność. Działania firm i rządów są oceniane przez pryzmat zgodności z „zasadami internetu”. Ileż to razy słyszeliśmy, że rządy lub firmy czyhają na „internet”.
Przez wiele lat sam byłem wyznawcą internetocentryzmu. Pierwsze wątpliwości zacząłem mieć w trakcie pisania pracy magisterskiej o polityce w „internecie”. Analizowałem wybory prezydenckie w Korei Południowej w 2002 roku. W mediach powszechnie nazywa się je „pierwszymi wyborami internetowymi”, bo wygrane zostały rzekomo głównie dzięki aktywności młodych ludzi w sieci.
Rzuciłem się na ten przykład, tak jak na 24-letniego geeka przystało. Jakie było moje zdziwienie, gdy po głębszej analizie zrozumiałem, że „internet” pomógł prezydentowi tylko w niewielkim stopniu. Potem nie dziwiłem się już tak bardzo, gdy media nazywały kolejne rewolucje „internetowymi”, jak np. wydarzenia w Iranie czy Egipcie.
Warto pamiętać, że niemal wszyscy rewolucjoniści, którzy próbowali przenieść zasady „internetu” do świata realpolitik i organizowali się w luźne struktury sieciowe, ostatecznie przegrali. Władzę zachowali lub przejęli gracze robiący politykę w starym stylu – poprzez organizacje o solidnej strukturze i jasnej hierarchii.
Dokąd nas doprowadził technooptymizm?
Złóżmy teraz wszystko razem. Sferą naszego życia, w której moim zdaniem najlepiej widać skutki pułapek technooptymizmu, jest rynek mediów. Przypomnijmy.
- Media internetowe rozwijały się przez lata, nie podlegając właściwie żadnym przepisom. A na pewno nie tak rygorystycznym, jak prasa, radio czy telewizja. W sieci kwitło piractwo i kradzież treści.
- Było to możliwe, bo zarówno politycy, jak i biznes uwierzyli, że żyjemy w nowej epoce, w której stare zasady nie obowiązują. Cyfrowa rewolucja rzekomo wszystko zmieniła.
- Dodajmy do tego wiarę, że technologii nic nie zatrzyma. Skoro tak, to obrona prywatności użytkowników i walka z amerykańskimi cyberkorpami jest bezcelowa.
- I na koniec solucjonizm z wiarą w proste rozwiązania wszystkich problemów i obsesją na punkcie mierzenia. Tylko to, co da się zmierzyć, ma wartość. Odsłony muszą się zgadzać!
Do czego technologiczny optymizm doprowadził rynek mediów?
- W USA liczba pracowników gazet spadła o ponad połowę w porównaniu z początkiem lat 90. Nie rekompensuje tego wzrost zatrudnienia w mediach online – pracuje w nich mniej więcej tyle samo osób, co obecnie w gazetach.
- Oczywiście pieniądze z reklam powędrowały do mediów internetowych. Mimo to media internetowe nie palą się do płacenia za solidne dziennikarstwo. Najważniejsze tematy nadal odkrywają w zdecydowanej większości „stare media”.
- W sumie jednak nie powinniśmy się dziwić, że media internetowe nie mają pieniędzy. W końcu połowę wszystkich pieniędzy na reklamę cyfrową zgarniają Facebook i Google, które w ogóle nie zatrudniają dziennikarzy.
- Ciągle słyszymy zapewnienia, że reklama internetowa trafia tylko do właściwych odbiorców. A prawda jest taka, że w ubiegłym roku oszuści wyłudzili od reklamodawców kilkanaście miliardów dolarów. Dwa razy więcej niż rok wcześniej. Największy znany botnet, MethBot, wyłudzał 5 milionów dolarów dziennie na reklamach, których nikt nie widział.
- W ogóle jest problem z dokładnym mierzeniem tego, kto widzi reklamy. Na pewno nie widzi ich 30% polskich użytkowników internetu, którzy używają adblocków.
- Do tego mamy zalew fake newsów i botów, które odpowiadają za coraz większy ruch w social media.
Jeśli uznamy, że znaczenie mediów dla społeczeństwa można wyrazić liczbami, to widzimy pasmo sukcesów – więcej odsłon, użytkowników mediów społecznościowych, komentarzy i lajków. Ale chyba nie tylko ja uważam, że rola mediów to coś więcej i trudno to przedstawić na wykresie.
Możecie się ze mną nie zgodzić, ale uważam, że technooptymizm na rynku mediów przyniósł więcej szkód niż korzyści. Jako obywatele coraz bardziej zamykamy się w bańkach informacyjnych. Nasila się polaryzacja polityczna – zwolennicy i przeciwnicy rządu w Polsce czy USA nie są już w stanie ze sobą normalnie rozmawiać. Żyją w oddzielnych rzeczywistościach. Że nie wspomnę o rosnącej liczbie przeciwników szczepień.
Case study
Świeżym przykładem solucjonizmu w działaniu jest wewnętrzna akcja Agory. Cytując WirtualneMedia.pl:
Agora (…) zaczęła motywować dziennikarzy „Gazety Wyborczej”, by tak konstruowali treści na serwis Wyborcza.pl, aby przyciągały w jak największym stopniu cyfrowych prenumeratorów. Ci pracownicy, którzy wywiążą się najlepiej z zadania, otrzymują raz w miesiącu kilkusetzłotowe nagrody pieniężne (…). Nie są to jednak nagrody uznaniowe: przyznający je redaktorzy opierają się na twardych danych z wewnętrznego systemu (…). Nagrody mają skłonić dziennikarzy (…) przede wszystkim do osobistego dbania o to, by jak najlepiej promować swoje teksty m.in. za pośrednictwem mediów społecznościowych.
Na pierwszy rzut oka – świetny pomysł! Agora zwiększa sprzedaż poprzez zachęcanie dziennikarzy do większej aktywności w social media i tworzenia tekstów, które są jeszcze bardziej wartościowe dla czytelników. Arbitrem całego procesu będzie obiektywny system informatyczny.
Z dyskusji z kilkoma osobami z branży mediów wiem, że nie tylko ja mam poważne obawy, czy na dłuższą metę akcja nie przyniesie efektu odwrotnego niż pożądany.
Na początek przeanalizujmy pobieżnie model sprzedaży cyfrowych prenumerat. Piszę to z własnego doświadczenia, jako osoba płacąca za paywall Wyborczej od momentu jego wprowadzenia.
- Wyborcza ma super oferty na wielomiesięczne prenumeraty. Nie opłaca się kupować pakietów na krócej niż kwartał.
- Czytelnicy Wyborczej nie kupują prenumeraty przez przypadek, ze względu na jeden tekst. A już na pewno nie przedłużają z tego powodu prenumeraty na kolejny kwartał.
- Głównym powodem płacenia za Wyborczą są dla mnie duże teksty, reportaże i inne materiały, które właściwie nie występują w darmowych mediach internetowych.
- Równocześnie większość czytanych przeze mnie tekstów to newsy ze strony głównej, którą sprawdzam przy śniadaniu.
- W efekcie najczęściej o skończeniu prenumeraty dowiaduję się, kiedy czytam krótki news. Szybko przedłużam na wiele miesięcy i wracam do czytania.
Do jakich zachowań może doprowadzić „program motywacyjny”?
- System informatyczny nie uwzględnia takich czynników, jak siła marki Wyborczej, wiarygodność, inne czytane bądź widziane teksty itd. Fakt, że ktoś przedłużył prenumeratę na newsie o kolejnej wpadce Trumpa, może być zupełnym przypadkiem. Równocześnie, statystycznie rzecz biorąc, większość ludzi będzie przedłużać prenumeraty na newsach i artykułach o największym zasięgu. Dziennikarze będą zatem mieli motywację, aby wpływać na kolegów odpowiedzialnych za dobór treści promowanych na stronie głównej i w social media. Czyjś tekst wyląduje na Facebooku, czyjś nie. W redakcji pogorszy się atmosfera.
- Zakładam, że dziennikarze znają badania na temat tego, jakie treści robią zasięgi w social media, a jakie nie. W skrócie: smutne, obiektywne, stonowane artykuły zasięgów w social media nie robią. Dziennikarze zaczną pisać teksty wywołujące gniew oraz odwołujące się do identyfikacji grupowej.
- Wyborcza już w tym momencie ma problem, bo przez wielu potencjalnych czytelników odbierana jest jako medium jednego środowiska, nieobiektywne. Podążanie dalej w tym kierunku – motywowane zasięgami w mediach społecznościowych – nie daje nadziei na poszerzenie grona czytelników.
- Dotychczasowi czytelnicy mogą z kolei zrazić się do Wyborczej, jeśli wyważone, solidne teksty zaczną być wypierane przez rozemocjonowane manifesty.
Przez jakiś czas wykresy w systemie będą jednak rosnąć.
Strategie na przyszłość
Odrzucenie wspomnianych przeze mnie pułapek technologicznego optymizmu nie oznacza odrzucenia technologii jako sposobu na poprawę naszego życia. Wprost przeciwnie! Jeśli przestaniemy wpadać w te pułapki i zaczniemy dostrzegać złożoność problemów, będziemy mogli projektować lepsze rozwiązania.
Artykuł jest rozszerzeniem wystąpienia Szymona Szymczyka, które wygłosił on podczas konferencji InternetBeta 2017. Tekst ukazał się na blogu autora: edgerunner.pl. Tam również ukaże się kolejny wpis – o nowym, bardziej świadomym podejściu do technologii i jego przykładach.
Źródła:
- http://www.nytimes.com/2010/04/27/world/27powerpoint.html
- http://www.businessinsider.com/jeff-bezos-email-against-powerpoint-presentations-2015-7
- Evgeny Morozov, „To save everything click here. The folly of technological solutionism”, Public Affairs, New York 2013.
- http://opentranscripts.org/transcript/programming-forgetting-new-hacker-ethic/
- The lives and death of Moore’s Law http://firstmonday.org/ojs/index.php/fm/article/view/1000/921
- https://www.theguardian.com/media/greenslade/2016/jun/06/almost-60-of-us-newspaper-jobs-vanish-in-26-years#img-1
- http://fortune.com/2017/07/28/google-facebook-digital-advertising/
- http://www.businessinsider.com/ad-fraud-estimates-doubled-2017-3
- https://pagefair.com/blog/2017/adblockreport/
- http://www.wirtualnemedia.pl/artykul/dziennikarze-gazety-wyborczej-dostane-premie-za-teksty-zwiekszajace-cyfrowa-prenumerate