Algorytm z (czyjąś) ludzką twarzą, a może i tożsamością

To jest fascynujący temat. Komputer, który przeszedł test Turinga. W tym przypadku, o którym myślę, chodziło o to, że komputer przekonał 59,3 % spośród 1334 rozmówców, że jest człowiekiem. To było w 2011 roku. Dziś zaś jest połowa 2013 roku. No i jesteśmy w nieco innym miejscu dyskusji na temat "społeczeństwa informacyjnego", niż byliśmy 3 lata temu. Komputer, który przeszedł test Turinga. Dla mnie zaś fascynujące w tym są problemy prawne związane z oceną naruszenia dóbr osobistych innych osób ewentualnie dokonywane przez taką konwersacyjną maszynę, albo pomówienia, albo ujawnienie tajemnic prawnie chronionych, albo naruszenie zasad ochrony danych osobowych, manipulacje giełdowe i szereg innych aspektów prawnych, które są istotne ze względu na ocenę obiegu informacji...

Informacje o tym, że w 2011 roku Cleverbot przeszedł test Turinga można znaleźć na stronie projektu. Można też znaleźć polskie relacje z tego okresu, jak np. tekst z serwisu Gazety Wyborczej. Wyobrażam sobie, że od tamtego czasu ten komputer cały czas konwersuje i przez to stale się uczy. Konwersacja z Cleverbotem możliwa jest też online. To zaś znaczy, że to wszystko, co algorytm konwersacyjny wygeneruje jest dostępne publicznie.

screenshot serwisu cleverbot.com z fragmentem konwersacji z Cleverbotem

Zapytałem Cleverbota czy ma osobowość, czy jest "prawdziwą osobą". Odpowiedział twierdząco. Zapytałem, kto ponosi prawną odpowiedzialność za to, co w ramach tej konwersacji pisze na stronie. Odpowiedział, że on sam. Zapytałem też, kto jest jego ulubionym malarzem. Odpowiedział, że Russell Martin. Zapytałem, co sądzi na temat wiezienia w Guantánamo...

Zastanawiam się, jakie wyzwania prawne niesie ze sobą rozwój tego typu narzędzi. W tekście In the era of globalization every single nation is a minority sygnalizowałem wystąpienie Ricka Rashida z Microsoftu, który pokazał na konferencji narzędzie tłumaczące w trybie rzeczywistym z języka angielskiego na język chiński. To narzędzie nie tylko generowało tekst z "usłyszanej" mowy, ale również syntezowało wypowiedź w języku, na który dokonywało tłumaczenie i "wypowiadało" ten przetłumaczony tekst głosem mówcy. Nagranie z listopada 2012 roku, które dotyczy tego pokazu, dostępne jest online:

Rick Rashid - Chief Research Officer in Microsoft - demonstruje działanie narzędzia do tłumaczenia wypowiedzi w trybie rzeczywistym.

Kiedy połączyć takie narzędzie translacyjne i syntezator mowy konkretnego człowieka z tym, co może wynikać z możliwości wspomnianego wyżej Cleverbota, to wyzwania prawne z tym związane robią się jeszcze bardziej interesujące.

A jeśli dodać do tego jeszcze narzędzia animacji 3D, które pozwalają generować obraz (konkretnego) człowieka i synchronizować jego mimikę twarzy z wypowiadanymi frazami...

Demo pokazujące możliwości animacji 3D, przedstawiające konwersującego człowieka

...to jest to taki poziom abstrakcji, z którym chyba nie zderzył się jeszcze żaden legislator i żaden sędzia.

Dziś dajemy się wkręcać satyrycznym tekstom publikowanym przez the Daily Currant, jak na przykład temu, o wypowiedzi Sary Palin (zob. Sarah Palin Calls for Invasion of Czech Republic). Od czasu do czasu pojawiają się też materiały, w których ktoś podszywa się pod polityków publikując np. rzekomo ich "pornograficzne sesje" (nie będę linkował, ale chodzi mi na przykład o materiał, w którym ktoś publikował zdjęcia rzekomo przedstawiające Annę Grodzką, która miała rzekomo prowadzić nieobyczajne czaty internetowe - tutaj jeden z komentarzy po tamtej "aferze"). W tym przypadku podobno zagrał człowiek. A jeśli w jego miejsce ktoś kiedyś wykorzysta algorytm? Co się stanie, gdy ktoś przejmie kontrolę nad "asystentką" odpowiadającą na pytania na stronach ZUS (por. Witamy nowy serwis internetowy Platformy Usług Elektronicznych ZUS)?

Boty (sterowane przez ludzi) są dość aktywne w Sieci. Patrzę sobie w logi, jak usiłują założyć konto w tym serwisie (na chwilę wyłączyłem narzędzia blokujące), a to w celu powiadomienia czytelników tego serwisu o nowym serwisie dla hazardzistów, porno sajcie, albo by przekonać państwa do usług pozycjonowania;

screen logów serwisu pokazujący próby założenia konta przez roboty

Screen logów serwisu pokazujący próby założenia tu konta przez roboty. Te konta potem służyłyby do spamowania forum...

Co się będzie działo, gdy media zostaną zalane materiałami (również filmowymi) przedstawiającymi różne osoby działające i mówiące coś, czego w istocie nie powiedziały i nie wykonały? Jak prawo podejdzie do sytuacji, w której ktoś będzie rozpowszechniał np. link do "wideo czatu" ze znaną postacią, która w istocie nie będzie tam występowała, a za wszelkie interakcje będzie odpowiedzialny wyposażony w mechanizm sztucznej inteligencji współdziałający z narzędziami animującymi mesh takiej postaci w trybie rzeczywistym i narzędzie text-2-speach wypowiadające się głosem takiej postaci?

Dziś da się, jeśli ktoś się postara, uzyskać plik zawierający "origgowany" "mesh" (mesh - powłoka, rigg - szkielet) przedstawiający trójwymiarowy model głowy np. Bruce'a Willisa. Takich modeli (nie tylko głowy, ale całych postaci) będzie coraz więcej. Prezydent tego lub innego kraju, szef tego lub innego banku centralnego, prezes tej lub innej spółki giełdowej... I takie fantomy będą mogły powiedzieć cokolwiek i gdziekolwiek. Na przykład ogłosić wypowiedzenie wojny na założonym wcześniej przez bota profilu w mediach społecznościowych. Wojny między robotami a ludźmi.

Fascynujące.

Przeczytaj również:

Opcje przeglądania komentarzy

Wybierz sposób przeglądania komentarzy oraz kliknij "Zachowaj ustawienia", by aktywować zmiany.

Skynet

Oj, za bardzo to sie zbliża do filmowego Skynetu. Technologie fascynujące, nawet bardzo. Ale nie bardzo wiem do jakich pozytywnych celów mogą posłużyć - bo możliwości negatywnych widzę wiele. Oby takie technologie nie wychodziły poza akademickie eksprymenty bo zawsze znajdzie sie niewłaściwy człowiek tym kierujący.

Tomasz

To samo co dzieje się dziś w internecie może przełożyć się na zwykłe życie i któregoś dnia się okaże, że idąc do hipermarketu tak przy okazji kupimy sobie robota a'la Marylin Monroe, wiadomo do jakich uciech. :)

Prawo jest daleko w tyle za

Prawo jest daleko w tyle za postępem technicznym. Np. takie nasz PoRD i pojazdy autonomiczne. Mamy algorytm opensource sterujący autonomicznym samochodem - kto jest kierowcą, kto kierującym... i co dalej z tym zrobić, skoro większość przepisów odnosi się właśnie do tych dwóch definicji.

prawo zna takie przypadki

ksiewi's picture

A ja myślę, że trzeba będzie po prostu odświeżyć sobie przepisy prawne stosowane wobec niewolników w starożytnym Rzymie. A z biegiem czasu okaże się pewnie, że zdolność prawna i zdolność do czynności prawnych nie są wyłącznie ludzkimi atrybutami...

Poza tym jest znacznie bardziej ciekawe pytanie - jakie prawa maszyny zaczną ustanawiać ludziom? Bo przecież taki człowiek maszynie może wiele złego uczynić i maszyna mogłaby się chcieć zabezpieczyć. Ciekaw jestem, czy Cleverbot się nad tym zastanawia.

Ja zapytalem sie tego bota o

Ja zapytalem sie tego bota o co sadzi na temat prawa autorskiego. Odpowiedz wskazuje, ze nie musi sie tym jeszcze martwic. Ale gdy pewnego dnia zacznie cos recytowac, spiewac albo tworzyc cos nowego to sie bedzie dzialo ;)

szybkie pytanko do bota

dalsze pytania do bota

Zachęcony rozumnością bota zacząłem z nim dyskutować. Pytałem jakie zna języki. I całkowicie poległ. Wpierw twierdził, że zna angielski, francuski i trochę hiszpańskiego. Gdy mu oznajmiłem, że angielski nie jest moim pierwszym językiem, to bot stwierdził, że jego drugim jest niemiecki. Dalej było już tylko gorzej. Czyżby te prawie 60 % poruszało tylko kilka tematów które bot opanował?

To nie jest HAL 9000

To nie jest HAL 9000 niestety. Nadaje sie raczej do rozmow o tzw. "d.... Maryny".

Troche wiecej na temat tego bota jest np. tutaj

Moze, za kilka lub kilkadziesiat lat naukowcy zbuduja cos lepszago na bazie sieci neuronowych lub memrystorow.

Abstrakt do całości..

reptile's picture

Jak w tytule.

A co z faktem dronów? Bo są teraz różne humaidalne roboty.. potrzeba będzie licencji na tego typu maszynę? Bo lekarze zdalnie operują.. to złodzieje lub mordercy też zdalnie będą mogli. Informatycy potrafią przejąć kontrolę nad ciałem zwierzęcia.. to człowieka nie będzie można? Już z etyką klonowania był problem. Albo prywatność i szpiegowski nanobot, który nawet jak pchła.. w WC mnie dopadnie :D
Albo wirtualni asystenci, którzy w błąd wprowadzają.. ktoś tam dzięki GPS wpadł do stawu.. dzwonisz pod 999 ..witam jestem ambulobot..czym mogę pomóc..
Absurdy zaczną się ścigać. Bo, co jeśli robot..a są już takie co malują..naruszy prawo autorskie..itd.. wyjdzie,że prawo samo w sobie jest próżne? : ) ..czy tylko ludzkie?
Czy przyjdzie nam robić test na ludzkość? Bo jeśli rozszerzenie możliwości ludzkiego ciałą w postaci potencjału jego umysłu nabierze rozmachu.. to kto stwierdzi, czy ja bot czy niebot? Jeszcze.. ad..nieuczciwa konkurencja "państwowego" prawa czy legislacji wierzących w kwestie ontologiczne..

..pojechałem.

-
R.E.P.T.I.L.E. - Robotic Electronic Person Trained for Infiltration and Logical Exploration

Dorożki w Paryżu...

Całe te rozważania przypominają mi futurystyczne dumania na temat dorożek, co to miały rozjeździć Paryż w pierwszej połowie XX wieku.

Co do manipulowania i preparowania materiałów, to przedsmak już mamy. Przecież aktualnie nie każde nagranie i nie każde zdjęcie czy film są dowodami.

A jeśli chodzi o ochronę wizerunku, to na końcu jest ktoś, kto - umyślnie lub nie - uruchomił urządzenie.

W końcu kultura i zdrowy rozsądek zwyciężą: jeśli będziemy mieli zalew fałszywek, to ludzie przestaną w nie wierzyć. Czy na pewno warto regulować okres przejściowy prawnie?

Człowiek za kotarą

maniak713's picture

Bardziej bym się obawiał wykorzystania takich syntetycznych obrazów przez ludzi. Bot, nawet tak zaawansowany, to zabawka i nie spróbuje przejąc kontroli nad światem ani wytrzebić jakiejś grupy/narodu. A do prawdziwej sztucznej inteligencji tradycyjnie od 50 lat jest "jeszcze 20, góra 30 lat".

Z ciekawych zastosowań jest sztuka filmowa - ze odpowiednimi modelami można ożywić dawno zmarłych a znanych aktorów albo np wyprodukować scenę, w której aktorka pojawia się jednocześnie w obecnym wieku i o 10, 20, 30 lat młodsza.

Z mniej zabawnych - propaganda. Zrobiony z sobowtóra i dostępnych zdjęć oryginału obraz prezydenta kraju X może może wygłaszać różne deklaracje i zostać użyty do straszenia/mobilizacji do walki w kraju Y albo jako uzasadnienie do jakiś akcji politycznych. A jakie zamieszanie spowodowałby u nas taki filmik z fałszywą postacią znanego polityka przyznająca się do różnych grzeszków i przestępstw?

Ze ściślej związanych z prawem - filmowe alibi dla zbrodniarza "nie mogłem zabić Kowalskiego bo wtedy byłem na grillu u Malinowskich, tu jest nawet filmik".

--
Powyższa wypowiedź NIE została zatwierdzona przez Główny Urząd Kontroli Stron i Postów.

Ze ściślej związanych z

Ze ściślej związanych z prawem - filmowe alibi dla zbrodniarza "nie mogłem zabić Kowalskiego bo wtedy byłem na grillu u Malinowskich, tu jest nawet filmik".

Przypomnial mi sie motyw z filmu "Gangsterzy i filantropi". W celu zdobycia alibi herszt gangu nagrywa wlasne ruchy szachowe (plus pare dodatkowych kwestii) na magnetofon szpulowy i odtwarza je swojemu przeciwnikowi za posrednictwem telefonu.
Dzisiaj magnetofon szpulowy mozna by zastapic programem szachowym (botem) polaczonym z syntezatorem mowy.

Jesli to czyta jakis scenarzysta/rezyser i zapragnie stworzyc remake (np. "Gangsterzy i filantropi 2.0" albo "Gangsterzy i filantropi the Next Generation") - to zrzekam sie wszelkich tantiem na rzecz np. Fundacji Nowoczesna Polska ;)

Bot dziś jeszcze jest

Bot dziś jeszcze jest zabawką, ale jutro ktoś za pomocą botów może próbować przejąć kontrolę nad światem. Wynika to z naszej, całkowicie ludzkiej, natury. Niestety, dzięki niej realizowane są przede wszystkim antyutopie SF. Nie chciałbym się znaleźć na miejscu prawników, którzy będą musieli rozwiązywać zasygnalizowane w artykule problemy. Aha, i programowo nie wierzę w rozsądek (patrz: historia ludzkości).

Dodaj nowy komentarz

Zawartość tego pola nie będzie publicznie dostępna.
  • Dopuszczalne tagi HTML: <a> <em> <del> <ins> <strong> <cite> <blockquote> <code> <ul> <ol> <li> <dl> <dt> <dd>
  • Rozpoczynanie akapitów i łamanie wierszy następuje automatycznie.
  • Użyj [# ...] by dodać automatycznie numerowany przypis dolny (footnotes).

Więcej informacji na temat opcji formatowania

CAPTCHA
Niestety spamerzy atakują, dlatego muszę się bronić.
3 + 2 =
Rozwiąż to proste zadanie matematyczne. Dla przykładu: 1+3 daje 4.

Piotr VaGla Waglowski

VaGla
Piotr VaGla Waglowski - prawnik, publicysta i webmaster, autor serwisu VaGla.pl Prawo i Internet. Członek Rady ds Cyfryzacji przy Ministrze Cyfryzacji, ekspert w Departamencie Oceny Ryzyka Regulacyjnego Ministerstwa Rozwoju, felietonista miesięcznika "IT w Administracji" (wcześniej również felietonista miesięcznika "Gazeta Bankowa" i tygodnika "Wprost"). Uczestniczył w pracach Obywatelskiego Forum Legislacji, działającego przy Fundacji im. Stefana Batorego w ramach programu Odpowiedzialne Państwo. W 1995 założył pierwszą w internecie listę dyskusyjną na temat prawa w języku polskim, Członek Założyciel Internet Society Poland, pełnił funkcję Członka Zarządu ISOC Polska i Członka Rady Polskiej Izby Informatyki i Telekomunikacji. Był również Członkiem Rady Informatyzacji przy MSWiA, członkiem Zespołu ds. otwartych danych i zasobów przy Komitecie Rady Ministrów do spraw Cyfryzacji oraz Doradcą społecznym Prezesa Urzędu Komunikacji Elektronicznej ds. funkcjonowania rynku mediów w szczególności w zakresie neutralności sieci. W latach 2009-2014 Zastępca Przewodniczącego Rady Fundacji Nowoczesna Polska, w tym czasie był również Członkiem Rady Programowej Fundacji Panoptykon. Więcej >>