Gräns och gränssnitt mellan människa och maskin Staffan Larsson Institutionen för lingvistik

Människan och maskinen Hur ska vi människor relatera till våra maskiner? Är människan en sorts maskin? Kan maskiner vara mänskliga?

Är detta intressant för mig? Det är jobbigt att vara människa fri vilja, medvetande, kärlek, moral… om vi är maskiner behöver vi inte bry oss! Det är fantastiskt att vara människa om vi bara är maskiner, förlorar då inte allt sin betydelse? Är det inte förmätet av oss att tro att vi skulle vara så speciella? Vad är unikt mänskligt? Heidegger (1889-1976): att tolka sig själv och sin värld

Gränssnitt

Vad är gränssnitt? Teknologier som utgör kontaktytan mellan människan och maskinen Tillåter kommunikation mellan människa och maskin Exempel: Skärm Tangentbord Mus Talad dialog? Gränssnittet bestämmer hur vi relaterar till maskinerna i vardagen

Språket som gränssnitt Kan språket (det mänskliga, naturliga, talade) användas för att överbrygga gränsen mellan människa och maskin? Hur? Genom att få maskiner (datorer) att förstå mänskligt språk och kunna föra dialoger: detta är ett av målet för språkteknologin Varför? Talad dialog är – för människor - det mest naturliga sättet att interagera

Dialog och dialogsystem interaktivt informationsutbyte med hjälp av naturligt språk Dialogsystem: Teknologier som möjliggör interaktion mellan människa och maskin med hjälp av (talad) dialog

Praktiska användningsområden (urval) Demokratisering av teknologi Dialog som gränssnitt till teknologi som annars hade varit för komplex Fördel: kräver ingen teknisk fallenhet eller förkunskaper (utöver att kunna tala) Kommunikationsstöd För döva För blinda Andra funktionshinder Möjliggöra kommunikation Tal-till-tal-översättning

Varför är dagens dialogsystem inte bättre? Exempel: SJ:s tidtabellsupplysning (020 757575), Tidpunkten (077 1414300) Dessa systems förmåga att föra en dialog ligger ljusår från människans. Varför? De utgår i stor utsträckning från maskinernas förutsättningar, inte från teorier om den mänskliga dialogförmågan!

Hur ska vi kunna bygga bra dialogsystem? För det första: Vi måste förstå hur människor använder språk! Wittgenstein (1889- 1951): Språklig aktivitet är alltid förankrad i någon specifik mänsklig aktivitet! Till varje aktivitet hör ett språkspel; ett språk som svenska är i själva verket en samling språkspel För det andra: vi måste formulera våra teorier på ett sätt som är begripligt för en dator Formalisering och simulation

Formalisering Översättning till ett formellt språk Exempel på formella språk Matematik Används för att formalisera bl a fysik Logik Programmeringsspråk, t ex Java Formella språk är generellt sett extremt enkla och regelbundna Detta gör att datorer kan ”förstå” dem

Simulation Antag att vi har en teori om (en del av) den mänskliga språkförmågan Hur ska vi ta reda på om den är sann? Empiriska studier (lingvistik) Studera insamlat språkligt material Gör experiment Simulering (språkteknologi / datalingvistik) Översätt teorin till ett datorprogram (formalisera) Kör programmet och se om beteendet är det förväntade ”reverse engineering”

Dialogsystem som simulationer Dialogsystem försöker simulera hela den mänskliga språkförmågan Att uppfatta, tolka och förstå talade yttranden Att resonera om vad som ska sägas och när det ska sägas Att formulera och uttala yttranden

Två sorters språkteknologi? Praktisk språkteknologi Praktiska lösningar på praktiska problem I princip ointressant huruvida man försöker efterlikna en mänsklig språklig förmåga Teoretisk språkteknologi En forskningsmetodik för att utforska den mänskliga språkförmågan I princip ointressant huruvida resultatet är praktiskt användbart Dessa sammanfaller dock i den mån det människolika också är det praktisk användbara

Gräns

Maskinen människan? Descartes (1596-1650) de la Mettrie (1709-1751) Djur är att betrakta som maskiner Människan har en själ, och skiljer sig därför på ett fundamentalt sätt från djuren de la Mettrie (1709-1751) ”Maskinen människan” Skillnaden mellan människa och maskin är en kvantitativ skillnad i komplexitet Ingen fundamental skillnad!

Turingtestet Kan en maskin vara intelligent? Är ”artificiell intelligens” (AI) möjlig? Turing (1912-1954): ”Turingtestet” Testperson A får föra en dialog (via textterminaler) med B. A:s mål är att försöka avgöra om B är en människa eller en dator (OBS! Detta är en förenklad version av Turingtestet!)

Turingtest och dialogsystem Enligt Turingtestet – vad är det fundamentalt mänskliga? Förmågan att föra en dialog med naturligt språk! Varför skulle detta vara fundamentalt? Antagande: I talet visar sig alla andra mänskliga förmågor (direkt eller indirekt)

En svart låda Turing behandlar i stor utsträckning psyket som en svart låda Om vi lyckas simulera mänskligt beteende, betyder det att vår teori är korrekt? Turing: Ja; alla eventuella skillnader är oväsentliga! Heidegger (i modern tolkning) : Nej; även om vi lyckats fånga de centrala iakttagbara aspekterna av det mänskliga psyket i datorn, så ÄR den inte en människa – vi kan inte veta att datorn fungerar som en människa inuti!

Heideggers projekt i Varat och tiden Beskriv grunderna för det mänskliga varandet Hur det är att vara människa Detta kan enligt Heidegger bara göras ”inifrån” H:s utläggning är ej avsedd att vara begriplig för någon som inte är människa En sådan förklaring är inte möjlig, hävdar H.; det mänskliga går inte att förklara ”från scratch” Ändå är det en sådan förklaring som eftersträvas inom AI-forskningen

”Gud finns i detaljerna” (L. M. van der Rohe, 1886-1969) Exakt hur människolikt måste ett system vara för att klara turingtestet? För ett system liknande SJ:s, men något mer avancerat, är det lätt att tänka sig att det grundar sig på en felaktig modell Men hur vore det med ett system som verkligen betedde sig mänskligt? In i minsta detalj – minsta hummande, minsta stammande, minsta skiftning i röstläget?

Men… hur människolika ska maskinerna bli? Vill man verkligen efterlikna alla mänskliga engenskaper? Freudianska felsägningar? Dåligt minne? Panikångest? Utbrändhet?

Principargument mot ”artificiell intelligens” ”Religiösa” argument Människan har en immateriell själ, vilket maskiner aldrig kan ha Materiella argument Varelser av silikon och metall kan aldrig vara sant mänskliga; till detta krävs kött och blod (och neuroner)

Fler principargument Freudianska argument Heideggerianska argument Människor och maskiner har radikalt annorlunda konstitution och ursprung Maskiner föds inte av två andra maskiner; de byggs Heideggerianska argument Spädbarn är, strikt talat, inte människor; de måste först socialiseras in i världen Maskiner socialiseras aldrig in i världen; de programmeras

Principfrågan – i princip ointressant? Är det egentligen intressant huruvida människor i princip är / inte är maskiner? Frågan om huruvida en dator kan tänka är inte mer intressant än frågan om huruvida en ubåt kan simma. (E. W. Dijkstra, 1930-2002)

Gräns och gränssnitt

Fel fråga? Istället för ”Kan maskiner vara intelligenta”: På vilket sätt kan maskiner vara intelligenta? Hur simmar ubåtar?

Strategiska uppslag Dysfunktionella dialogsystem Börja med det enkla Om vi kan få systemet att göra fel på samma sätt som människor gör fel så har vi kanske kommit nånstans Börja med det enkla Utvidga succesivt Bygg system för specifika aktiviteter (Wittgensteins språkspel) Utöka antalet aktiviteter succesivt Försök inte göra generella lösningar; det generella kommer att visa sig

Språket och resten av livet Den mänskliga språkförmågan är inte ett isolerat system; hänger samman med människans Kropp Psyke (”mind”) Sociala sammanhang Därför måste dialogsystembyggaren föra en diskussion med andra vetenskaper

En humanistisk diskussion om teknologi som inte är vare sig teknofobisk, eller blind för teknikens risker och begränsningar kan det göra möjligt att utforska gränserna för det unikt mänskliga att tolka oss själva och vår värld (Heidegger) och samtidigt göra nytta i vardagen

Människan och maskinen Hur ska vi människor relatera till våra maskiner? Är människan en sorts maskin? Kan maskiner vara mänskliga? ”Det är inte svaret som upplyser, utan frågan” (Decouvertes)

slut

Dialogsystem som tvärvetenskapligt projekt Ett ”verktyg att tänka med” inom humanvetenskaperna? ”hur skulle jag bära mig åt för att simulera detta språkliga-mänskliga fenomen?” Här blir det kanske intressant att simulera felsägningar etc.? Berörda problemområden (urval): Språk Psyke (medvetet + undermedvetet) Perception och handling Sociala verklighet … och relationer mellan dessa

Finns det någon bra anledning till att försöka simulera mänskligt beteende? NEJ! Det är en svår- eller till och med oframkomlig väg, och därför slöseri med resurser; bättre att studera människan direkt! JA! Om vi lyckas så har vi en bra teori om hur människor fungerar Det vill säga, en teori som är fristående, exakt, och därför praktiskt användbar

Artificiell intelligens (AI) Mål (alternativa formuleringar): Att konstruera artificiella intelligenta system Att konstruera system som beter sig människolikt Att konstruera medvetna maskiner Framsteg Begränsade domäner (t ex schack) Rationalitet, beräkning Bakslag Världskunskap ”mjukt” tänkande; associationer, analogier, metaforer, indirekt kommunikation, sociala aspekter av kommunikation

Två sorters argument mot AI Praktiska: det är möjligt i princip men omöjligt i praktiken Principargument: AI är omöjligt i princip

Medvetandeproblemet ”stark” vs. ”svag” AI !!! MERA Heidegger igen: Stark: datorer kan fås att vara medvetna på samma sätt som människor Chalmers: ”the hard problem” Svag: datorer kan fås att bete sig människolikt Heidegger igen: I vårt vardagliga varande är vi inte (själv)medvetna; vi är engagerade i olika aktiviteter som absorberar oss Det medvetna tillståndet är inte grunden för det mänskliga, utan ett relativt ovanligt tillstånd Goda nyheter för ”svag” AI – vi kan i stor utsträckning ignorera medvetandeproblemet!

Vid en viss punkt divergerar vägarna: Forskning om gränsen och forsking om gränssnittet kan vandra samma väg – men inte för alltid Vid en viss punkt divergerar vägarna: Forskningen om gränsen forsätter efterhärma människan Forskningen om gränssnittet slutar efterhärma människan och tillåter sig dra nytta av maskinens möjligheter även om det resulterande systemet blir mindre människolikt

Var finns denna punkt? FIG?

Cyberpsykologi? Utforskandet av maskinernas komplex, drömmar, … Bara intressant om vi tänker oss att maskiner kan vara ungefär lika komplexa som människor, men på ett annat sätt Science Fiction: Bladerunner (Philip K. Dick)

Att tolka sig själv och sin värld Genom att utöva det unikt mänskliga … att tolka oss själva och vår värld genom t ex att konstruera teorier och modeller som försöker efterlikna mänskligt beteende … …kan vi utforska gränserna för det unikt mänskliga… … och samtidigt kanske göra livet lite bättre för någon