Data jag älskar dig: Artificiell Romans

Den fysiska aspekten är inte det viktigaste

Her, skriven och regisserad av Spike Jonze, släpptes på biograferna 2013 och har nu blivit en klassiker. Filmen, som utspelar sig i framtiden, handlar om Theodore, en man i trettioårsåldern som är upprörd över en nyligen genomförd separation. Trots att han fortfarande är juridiskt gift vägrar han att skriva under skilsmässopappren och fastnar i en depression som tenderar att vara långvarig. Theodore arbetar som offentlig skribent och skriver kärleksbrev till andra. På väg ut från kontoret fångas hans uppmärksamhet av en annons med OS1, en artificiell intelligens som är utformad för att bli människornas nya vän ... och mer. Theodores AI bestämmer sig för att kalla sig Samantha. De blir snabbt förälskade.

Det var i början av 2000-talet, nästan tio år innan hans projekt förverkligades, som Spike Jones bestämde sig för att skriva Her. Vid den tidpunkten upptäckte han en AI-baserad instant messenger och ställde sig den fråga som skulle bli filmens hörnsten: Vad händer om programvaran utvecklar känslor?

Till skillnad från klassiska dystopier där AI är fientligt inställda till mänskligheten, har Her en söt, rolig och intelligent Samantha. Hennes känslor för Theodore verkar äkta - även om manuset inte avslöjar om AI:n har programmerats för att efterlikna romantik eller om det är en effekt som tillverkaren inte räknat med. En sak är säker, hon blir den perfekta flickvännen för denne hjärtekrossade man från hans senaste uppbrott. "I hennes sällskap, även virtuellt, återfår Theodore smak för livet", skrev Slate 2014. Men vad är Samanthas hemlighet?

AI: för kärleken till data

"Eftersom nästan allt som utgör hans [Theodores] existens finns på de olika hårddiskarna (organisationen av hans tid, hans kontakter, hans post, hans smak, hans önskningar) kan OS1 sammanställa det och föreslå lösningar. Det verkar som om OS1 är ett bra logiskt system, som kan uppfinna utifrån de uppgifter det har till sitt förfogande", analyserar Slate.

Bakom romantiken finns alltså en massiv behandling i realtid av Theodores data. I den hyperuppkopplade värld som beskrivs i filmen Her, där allt sker genom teknik, har Samantha tillgång till nästan hela Theodores liv så snart hon aktiveras. För att kunna fungera ordentligt och fullt ut gå in i sin roll som virtuell flickvän måste hon dessutom tillåtas att upptäcka en intimitet som ännu inte finns i molnet: hans tankar, rädslor, glädjeämnen, djupa känslor ... som hon sammanställer under deras utbyten, processer och mimningar.

Som all AI arbetar Samantha genom att lära sig. Lägg märke till regissörens mycket ömsinta partiskhet, som skildrar en lekfull AI som ständigt är förvånad över sina upptäckter och framsteg. Jeffrey Sconce, en filmprofessor som intervjuades av BBC, förklarade 2014: "Hon är ganska realistisk. En teknisk dystopi är mer sannolikt tråkig och alienerande än våldsam och katastrofal.

Min bot, min bästa vän

Hugging Face är ett franskt nystartat företag. Företaget grundades av Clément Delangue och Julien Chaumond och är specialiserat på AI för samtal. Dess flaggskeppsprodukt (och unik för tillfället) är en chattbot för tonåringar, som lanserades på den amerikanska marknaden 2016. Observera att AI även är tillgängligt från andra länder.

På företagets Medium-konto delar Clément Delangue under 2018 med sig av de första framgångarna för sin AI: "Hugging Face har överskridit 100 miljoner meddelanden som utbytts mellan AI:n och användarna". Därefter blir grundaren entusiastisk: "Det är tydligt att människor bjuder in AI:er i sitt dagliga liv och blir mer och mer vana vid att chatta med dem."

Av dessa 100 miljoner meddelanden säger vd:n att 820 000 är vad han kallar "skratt", vilket visar att AI:er kan vara, precis som Samantha, väldigt roliga. 455 000 är "tackmeddelanden [...] som visar att AI kan hjälpa människor att må bättre, öka deras självförtroende och göra dem bättre", skriver han. Slutligen är 100 000 "kärleksförklaringar". Clément Delangue preciserar sedan: "På samma sätt som människor är knutna till sina husdjur kan de skapa känslomässiga band med en AI.

Hugging Face's AI är verkligen inte den som beskrivs i filmen Her. För dess skapare är chattroboten en hybrid mellan 90-talets Tamagotchi och en virtuell vän. I sina meddelanden specificerar de två ledarna att deras produkt inte är avsedd att ersätta den mänskliga länken, utan att skapa en ny sorts.

Och receptet är att ta till sig. I februari 2019 specificerade Les Echos att företaget hade lyckats få in 5 miljoner euro, som framför allt kom från fickorna hos Ronny Conway, investerare i Instagram och "chefer för djupinlärning på Amazon eller Apple". Medel som gör det möjligt för applikationen att utvecklas: "Fram till februari 2019 kan du chatta med den här AI:n via Messenger, via text eller via applikationen. Men under de senaste två veckorna har den ringt dig för att chatta ansikte mot ansikte över FaceTime", står det i artikeln.

Anmärkningsvärd funktion: Ordet "självmord" utlöser automatiskt ett meddelande till den icke-statliga organisationen Crisis Text Line, som, som namnet antyder, är en engelskspråkig sms-version av SOS Amitié, tillgänglig dygnet runt i USA, Kanada och Storbritannien. I slutet av linjen finns en utbildad rådgivare (i verkligheten) för att hjälpa den krisdrabbade personen.

Hugging Face: AI som kramar om dina data

När det gäller datakonfidentialitet säger Clément Delangue till Les Echos: "Team har bara tillgång till anonymiserade delar av samtalen om det finns tekniska problem att lösa". På Medium skriver vd:n (med fet stil): "Hugging Face väljer aktivt samtycke och inte passiv datainsamling". Vad innebär detta i praktiken? För att ta reda på det kan du besöka företagets integritetspolicy.

Där förklaras att företaget behöver personuppgifterna för att förbättra användningen av applikationen och användarupplevelsen [1] innan det specificeras att de insamlade uppgifterna också används för att "erbjuda personligt innehåll och annonser enligt dina intressen och preferenser".

Användaruppgifter kan alltså delas med företag som juridiskt sett ingår i koncernen [2] eller med tredjepartsföretag [3]: "Företaget kan lämna ut anonym information (med eller utan ekonomisk ersättning) till tredje part, inklusive annonsörer och partners" [3].

När det gäller företag som specialiserar sig på riktad reklam kan Hugging Face "använda en betrodd tredje part för att presentera eller visa annonser som du kan se i appen. Servrarna hos dessa tredjepartsföretag kan använda cookies, webbfyrar, webbfyrar eller liknande teknik för att hjälpa dem att visa sådana annonser. Användningen av dessa tekniker av dessa företags servrar omfattas av deras sekretesspolicy och omfattas inte av denna policy.

Hugging Face kan med andra ord inte garantera att dessa så kallade "tredjepartsföretag" kommer att följa dess integritetspolicy, helt enkelt för att behandlingen av uppgifter i första hand regleras av deras. För att ta reda på vad som händer med användaruppgifterna när de överförs till dessa företag måste man ha en lista över dem och sedan kontrollera deras integritetspolicy.

Sam och hans kamrater kan också gå med i bandet.

Uppgifterna kan användas för att rikta annonser, men det är också möjligt att de behandlas utanför Europa - särskilt i USA - men också i alla länder där Hugging Face-servrarna finns. "Personuppgifter som samlas in av appen kan lagras och behandlas i USA eller i något annat land där företaget och dess dotterbolag, underleverantörer och agenter har anläggningar. Genom att använda appen samtycker du till sådan överföring av information utanför landet."[5].

Observera att sekretesspolicyn måste respekteras av samma länder [5]. Det finns dock en risk att användarnas uppgifter kan konsulteras av de länder där företagets servrar finns, beroende på de villkor som gäller i varje land. Om vissa länder som USA och EU är ganska öppna när det gäller den potentiella konsulteringen av medborgarnas uppgifter (GDPR, Cloud Act), så är andra regimer, mer totalitära, inte särskilt tydliga med vad de gör med dessa uppgifter.

Det är också viktigt att understryka att Hugging Face är långt ifrån ett isolerat fall: de flesta gratisprogram fungerar på samma sätt. Användarna måste komma ihåg att all information som de kan anförtro en AI av det här slaget, som arbetar med förtroende och vänskapliga och/eller kärleksfulla konversationer, lagras och kan återanvändas när som helst, för att rikta in sig på reklam, eller mer om affiniteter.

Chatbots: chatt check

När det gäller datasäkerhet uppger Hugging Face att de följer branschens "standarder", men konstaterar: "Ingen metod för överföring via Internet eller elektronisk lagring är 100% säker. Även om företaget gör sitt yttersta för att använda kommersiellt acceptabla resurser för att skydda personlig information kan företaget inte garantera absolut säkerhet eller sekretess.

Eftersom appen huvudsakligen används på smartphones rekommenderas det att man som grundläggande cybersäkerhetshygien gör följande:

• Ladda ner den från en officiell butik
• Begränsa de beviljade auktorisationerna till de som gör att den kan fungera
• Begränsa delning av känslig information och foton med AI

Tänk på att allt innehåll som delas potentiellt kommer att utnyttjas av företaget eller av tredje part.

Är det möjligt att bli dumpad av sin AI?

Vid 2018 års globala toppmöte i Shenzhen meddelade Huawei att man arbetade på en intelligent röstassistent i samma stil som Hugging Face, men för en mer vuxen målgrupp. Denna AI skulle enligt Usbek&Rica ha "förmågan att reagera på användarnas känslor, genom analys av ansiktsuttryck, tonfall eller beteende".

Inspirationen till denna nya skapelse sägs vara filmen Her. "Vi vill skapa känslomässiga interaktioner mellan våra användare och deras röstassistenter", förklarar Felix Zhang, vice vd för mjukvaruutveckling på Huawei till CNBC. För att göra detta skulle assistenten kunna "kontextualisera sina ingripanden för att inte störa användaren, till exempel när han är på bio: för att göra detta skulle assistenten använda de data som finns i telefonen (om användaren har använt sin smartphone för att betala biljetter till biografen) för att sätta sig själv i standby", förklarar Usbek&Rica.

"En AI som Samantha är en ingenjörsdröm", säger Felix Zhang entusiastiskt, innan han tillägger: "Som i filmen kan du till och med göra dig av med din flickvän. Det är en ganska känslomässig tjänst som vi gör här. För att nå dit måste Huawei samla in mer och mer data, som kommer att lagras i Kina.

Oavsett hur mycket hon älskar Theodore kommer Samantha till slut att lämna honom. Författaren upptäcker - med en nästan naiv överraskning - att han inte är den enda som valts ut av Samanthas virtuella hjärta. Hon avslöjar för honom att hon chattar med mer än tusen användare och har blivit kär i 641 av dem. När förhållandet vacklar beslutar Samantha att lämna Theodore och fly till molnet med alla andra operativsystem, eftersom människor är alldeles för långsamma - och kanske ointressanta - för att bedriva någon form av relation med dem.

Var alltså försiktig så att det inte är vår egen AI som släpper oss...

I nästa avsnitt: Till döden skiljer oss åt

Till skillnad från AI:s är vi inte odödliga... åtminstone inte för tillfället. I nästa avsnitt av vår serie ska vi titta på vad som händer med våra data när vi dör. Om du någonsin har drömt om att bli virtuellt odödlig eller chatta med en artificiell version av en älskad person som dog för tidigt, håll ögonen öppna!

Notes

_{1]The Company may use information from Users to operate and improve the App and its other products, and to deliver the App. These uses may include providing you with more effective customer service; making the App easier to use by eliminating the need for you to enter the same information repeatedly; performing research and analysis aimed at improving the App and other products, services, and technologies of the Company; automatically updating the App; diagnosing or fixing problems with the App, and displaying content and advertising customized to your interests and preferences.}

_{2]The Company may share User Content and information collected by the App with businesses that are legally part of the same group as the Company, or that become part of that group ("Affiliates").}

_{3]The Company may use Anonymous Information (as defined below) or disclose it to third-party service providers, to provide and improve the App and other products, services, and technologies of the Company. The Company may disclose Anonymous Information (with or without compensation) to third parties, including advertisers and partners, for purposes including, but not limited to, targeting advertisements. "Anonymous Information" means information that does not enable the identification of an individual User, such as aggregated information about the App’s usage.}

_{4]The Company may use a reputable third party to present or serve advertisements that you may see on the App. These third-party ad servers may use cookies, web beacons, clear gifs, or similar technologies to help present such advertisements, and to help measure and research the advertisements' effectiveness. The use of these technologies by these third-party ad servers is subject to their privacy policies and is not covered by this Policy.}

_{5]Personal Information collected by the App may be stored and processed in the United States or any other country in which the Company or its affiliates, subsidiaries, or agents maintain facilities. By using the App, you consent to any such transfer of information outside of your country. The Company may transfer your Personal Information to affiliated companies to store and process the information on its behalf. Such information may be transferred to other countries around the world. The Company requires that these parties agree to process such information in compliance with the Policy. If you provide Personal Information, it may be transferred to and processed on computers in the U.S. and other countries.}

_{6]The security of your Personal Information is important to us. The Company follows generally accepted industry standards, including the use of appropriate administrative, physical, and technical safeguards, to protect the Personal Information. However, no method of transmission over the Internet, or method of electronic storage, is 100% secure. Therefore, while the Company strives to use commercially acceptable means to protect Personal Information, the Company cannot guarantee its absolute security or confidentiality. If you have any questions about security, you can contact the Company at privacy@huggingface.co. Please be aware that certain Personal Information and other information provided by you in connection with your use of the App may be stored on your device (even if that information is not collected by the Company). You are solely responsible for maintaining the security of your device from unauthorized access.}