Rozważania w myślącej windzie

Czasami tak się składa, że jakieś zjawisko atakuje nas ze wszystkich stron. Mnie zeszły tydzień upłynął pod znakiem Big Data i sztucznej inteligencji. Pół biedy, że sama wybrałam tę sekcję tematyczną na warszawskim FutureTech Congress (były jeszcze FinTech i InsurTech, a w tych sprawach – hmmm… – nie nazwałabym siebie ekspertem). Kiedy jednak temat Big Data i AI zaczął mnie dopadać także w sytuacjach towarzyskich, a nawet w kinie, zaczęłam odczuwać lęk przed otwieraniem lodówki. Myślę jednak, że muszę, a właściwie wszyscy musimy, przygotować się na więcej takich tygodni.

Bo niemal co tydzień słyszy się o kolejnych przypadkach kradzieży słabo chronionych danych, i to również dotyczących firm, które powinny się na zbieraniu i ochronie danych znać (pamiętacie brawurowe włamanie do PlayStation Network z kwietnia 2011 r.?). Choć zatem nasze dane nie są pod dostateczną ochroną, gdzieś obok rozwija się nieskrępowanie sztuczna inteligencja i machine learning; to, że oba te procesy zachodzą równocześnie, jest ekscytujące, ale też stwarza pewne niebezpieczeństwa. Ja też się cieszę na myśl o lodówce, która sama zrobi mi zakupy, pod warunkiem, że dane dotyczące np. tempa spożycia przeze mnie butelki wina pozostaną między nami, tzn. mną i lodówką (a nie np. zostaną przekazane najbliższej poradni odwykowej, której reklamy magicznym sposobem pojawią się na odwiedzanych przeze mnie stronach internetowych).

Takie szanse i zagrożenia ciekawie pokazał w swojej prezentacji Scott Neuman, Global Marketing Director IBM Watson IoT. Wspominał np. o  współpracy między towarzystwem ubezpieczeniowym i firmą, która robi prognozy pogody. Dzięki bieżącej wymianie danych między nimi, klient, który ma ubezpieczony samochód, dostaje SMS-y o treści: „Przez najbliższe 12 godzin trzymaj auto w garażu, bo na 87 proc. w nocy będzie burza”. Przydatne i sympatyczne, choć może zwalniać z myślenia. Natomiast w kontekście bezpieczeństwa danych, ciekawym przypadkiem jest system, w którym działają windy jednej ze znanych marek. Na specjalnej stronie internetowej można „posłuchać” na żywo wind, które przesyłają informacje o swojej aktywności do chmury. Wygląda to tak, jakby komunikowały się ze swego rodzaju „centrum dowodzenia”. Najczęściej donoszą, że albo jadą na któreś piętro, albo czekają na pasażerów, a „centrum dowodzenia” to potwierdza. Ciekawie zaczyna się robić wtedy, gdy winda melduje np. o lekkim drżeniu ścian, po czym dostaje odpowiedź, że siła tych drgań jest mniejsza od przeciętnej i nie ma powodów do niepokoju, albo że faktycznie coś jest nie tak i sprawą zajmie się ekipa serwisowa. Ponieważ te „rozmowy” obserwować może każdy (i jest to nawet uspokajające po ciężkim dniu), należy się liczyć z tym, że jakiś znudzony programista zacznie dla sportu mieszać windom szyki.

źródło: machineconversations.kone.com

Pytań o rolę człowieka w przedsięwzięciach opartych na sztucznej inteligencji padło zresztą więcej w drugiej części spotkania, już z gośćmi – ekspertami z Samsunga, Teradata i G2A.COM. Neuman mówił o badaniach z USA, z których wynikało, że większość pacjentów wciskających guzik przy szpitalnym łóżku, aby wezwać pielęgniarkę, wcale nie robi tego w sytuacjach awaryjnych. Często chcą po prostu. zapytać, co będzie na kolację albo gdzie jest łazienka. Można by więc oddelegować do takich zadań robota-komunikator. Pielęgniarki nie zostałaby przez to zwolnione z pracy, tylko mogłyby się skupić na swoich rzeczywistych obowiązkach. „No dobrze – odpowiedział na to jeden z gości – ale trzeba wziąć pod uwagę, że pacjenci szpitali to często starsze, samotne osoby, które chcą porozmawiać z człowiekiem, a nie z robotem”. Ja też o tym pomyślałam, ale już większość moich znajomych, z którymi o tym później rozmawiałam, była za wprowadzeniem robotów. Nawet rozumiem argument opłacalności oraz odciążenia i tak już przepracowanych i kiepsko wynagradzanych pielęgniarek, ale… czy aż tak zmieniła nam się perspektywa pod wpływem zawrotnego tempa rozwoju technologii, czy po prostu trudno nam sobie wyobrazić siebie jako zagubionych staruszków w szpitalu? Przy wszystkich zaletach AI, dla mnie to jednak smutna wizja, że w takiej sytuacji towarzystwa miałaby mi dotrzymywać siostra Siri.

Nie chcę wyjść na kogoś, kto najlepiej czułby się w epoce kamienia łupanego, bo nie robiłabym tego, co robię, gdyby rozwój technologii mnie szokował czy niepokoił. Pytanie tylko, na ile wszyscy muszą chcieć w nim uczestniczyć w takim samym zakresie. Ten temat pojawił się przy okazji bloku poświęconego ochronie danych. O rozwiązaniach prawnych, które nie nadążają za technologią, mówiły Główny Inspektor Danych Osobowych Edyta Bielak-Jomaa i prezeska ZUS-u Gertruda Uścińska. Obie instytucje starają się uporać z wyzwaniami, jakie stawia przez nimi postęp, i chwała im za to, ale czy wszystko da się uporządkować przepisami? Nie, i tu bliższe jest mi stanowisko Jakuba Turowskiego z polskiego oddziału Facebooka, który powiedział wprost: to my jesteśmy odpowiedzialni za skalę i sposób udostępniania naszych danych. Powinniśmy znać mechanizmy, które mogą nam w tym pomóc, i korzystać z nich. Trudno winić portale, które chcą zarobić na reklamie, że w sprawie ochrony danych użytkowników grają na dwa fronty („trochę” chronią, a „trochę” udostępniają). To do nas jednak należy decyzja, czy bierzemy udział w tej grze, a jeśli nie wiemy, jak robić to bezpiecznie, mamy obowiązek się dowiedzieć.

Jak wspominałam, ten temat wrócił do mnie zaraz po FTC, w czasie spotkania z szalenie inspirującą kobietą, która stworzyła własną aplikację mobilną i opowiedziała mi o blaskach i cieniach bycia szefową start-upu (ta rozmowa na Girls Gone Tech już w przyszłym tygodniu). Jednoosobowe szefowanie firmie, która zbiera dane użytkowników? Może nie jest to „Big Data” na skalę np. ZUS-u, ale nadal spore wyzwanie i jeszcze większa odpowiedzialność. Tu jedno niedopatrzenie może przecież spalić cały projekt, a firma bez długoletniej tradycji i przećwiczonej polityki kryzysowej może długo pracować nad odzyskaniem zaufania użytkowników.

Puentą okazał się weekendowy wypad na film Jamesa Ponsoldta „The Circle” o korporacji, która wypuszcza na rynek atrakcyjne gadżety elektroniczne i aplikacje, żeby używać ich potem do zbierania danych o klientach. Nowo zatrudniona Mae (Emma Watson) początkowo podchodzi sceptycznie do firmy, która wie wszystko o wszystkich, ale – żeby nie robić wrażenia kontrolującego Wielkiego Brata – oferuje swoim pracownikom hipsterskie rozrywki typu doga (joga z psem; co dla kociarzy, pytam w imieniu tej dyskryminowanej grupy?), a jej szefowie snują wizje stechnicyzowanej przyszłości na cotygodniowych „Dream Fridays”, wplatając w nie dowcipy i surferskie anegdotki. Z czasem Mae daje się uwieść i decyduje się udostępnić internautom, ale przede wszystkim swoim pracodawcom, CAŁE swoje życie – i tu zaczynają się schody…

Nie jest to dobry film (na ten temat powstawały zdecydowanie lepsze), ale trafnie pokazuje mechanizmy, które skłaniają nas do udostępniania swoich danych bez umiaru. Po pierwsze, przecież wszystkie te urządzenia i aplikacje ułatwiają życie! Po drugie, skoro używają ich wszyscy, rezygnując z nich – będziemy wykluczeni z obiegu komunikacyjnego. Po trzecie, skoro różne firmy tyle dla nas robią (takie PlayStation Network oferuje zniżki na gry, ale już w „The Circle” korporacja wyciąga od Mae informacje o jej rodzinie i w zamian umożliwia jej leczenie ciężko chorego ojca), możemy mieć złudzenie, że nie mogą jednocześnie chcieć nam zaszkodzić. Zresztą, może nawet nie chcą, ale efekt uboczny ich „troski” o nas bywa różny.

Ten tydzień dał mi do myślenia. Bo okazuje się, że w czasach, gdy coraz częściej cedujemy odpowiedzialność za ludzkie niegdyś sprawy na roboty, na nas spoczywa większa niż kiedykolwiek odpowiedzialność za zachowanie naszej tożsamości. Bo kto będzie decydował o tym, w jaką stronę zmierza świat, jeśli zamienimy się w pokawałkowane dane w poręcznych pakietach na sprzedaż? Moim zdaniem, nie ma ryzyka „buntu robotów”, którego boją się twórcy s-fi. To od nas zależy, czy i jak będziemy kontrolować AI. Dlatego nie hamowałabym badań nad robotami i ich możliwościami. Jednak to ja powinnam móc decydować, czy winda, którą jadę, ma prawo informować o tym kogokolwiek (a jeśli planuję na tym piątym piętrze zrobić coś niemoralnego? I mam dreszcze na samą myśl o tym, więc wprawiam w drganie ściany windy?) To ja muszę się zastanowić, czy jeśli melduję się na Fb w każdej restauracji, którą odwiedzam, a potem przez miesiąc nie melduję się w żadnej, to mój bank ma prawo „życzliwie” zaproponować mi kredyt konsumencki. Bo jeśli oddam władzę nad moimi danymi tym, którzy je tak ochoczo zbierają, i pozwolę im na tej podstawie decydować o swoim losie, pewnego dnia może się okazać, że wprawdzie nie głosowałam na jakiegoś satrapę, ale on i tak dostał moje poparcie. Dlaczego? Bo komuś z analizy danych wyszło, że ciemnowłose kobiety po trzydziestce z miast powyżej 500 tys. mieszkańców, które kupują płyn do prania X i wchodzą na portal Y, będą pod jego rządami szczęśliwsze.

Komentarze

Karolina Wasielewska

Pracuję w radiu i od czasu do czasu w prasie. Lubię: jesień, książki Lema, sporty przeróżne, koty, niespieszne pichcenie w wolne dni, czerwone wino, wesołe miasteczka, historie o superbohaterach, czasami Beastie Boys, a czasami Dianę Krall. Nie lubię: upałów, agresji, gotowania w pośpiechu i wielu innych rzeczy, których nie lubię, więc nie chcę nawet o nich pisać.