© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Föreläsning l5 Abstrakta datatyper och algoritmdesign.

En presentation över ämnet: "© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Föreläsning l5 Abstrakta datatyper och algoritmdesign."— Presentationens avskrift:

1 © Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Föreläsning l5 Abstrakta datatyper och algoritmdesign

2 Datastrukturer och algoritmer VT 2003 2© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Innehåll  Abstrakta datatyper  Lista, Cell, Fält, Tabell, Stack, Kö, Träd (ordnade och binära), Graf, Mängd, Lexikon, Prioritetskö, Heap, Trie, Binärt sökträd, AVL-träd, B-tree, Relation…  Algoritmdesign  Traversering, Sökning, Sortering, Maximalt flöde, Minimalt uppspännande träd, Kortaste vägen etc  Tids- och rumskomplexitet  Vad finns det för generella teorier?  Kapitel 9

3 Datastrukturer och algoritmer VT 2003 3© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Abstrakta datatyper  Ett koncept för att kunna diskutera och jämföra olika typer av datastrukturer.  Ligger på en hög abstraktionsnivå.  Främst intresserad av struktur och organisation, inte implementation.  Operationerna ger datatypen karaktär och specifikationen visar datatypens uttrycksfullhet.

4 Datastrukturer och algoritmer VT 2003 4© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Operationskategorier (l)  Konstruktorer - skapar/bygger upp och returnerar ett objekt av aktuell ADT  Grundkonstruktorer som saknar argument av den aktuella ADT:n oEmpty, Make, Create  Vidareutvecklande konstruktorer som tar ett argument av den aktuella ADT:n oList-Insert, Stack-Push  Kombinerande konstruktorer som tar flera argument av den aktuella ADT:n oSet-Union

5 Datastrukturer och algoritmer VT 2003 5© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Operationskategorier (2)  Inspektorer - Undersöker ett objekts inre uppbyggnad på olika sätt  Avläsning eller sondering av elementvärden eller strukturella förhållanden oInspect-value, Stack-Top, Table-Lookup, Set-Choose  Test av olika extremfall av struktur och värden oBinary-tree-has-left-child, Set-member-of  Mätning av objekt oIsempty, Has-value

6 Datastrukturer och algoritmer VT 2003 6© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Operationskategorier (3)  Modifikatorer – Ändrar ett objekt struktur och/eller elementvärden  Insättning, borttagning, tilldelning omstrukturering oArray-Set-Value, Table-Remove, Stack-Pop, Set-Insert  Navigatorer – Används för att ta fram ett objekts struktur  Landmärken (kända positioner), lokala förflyttningar, traverseringar oList-First, List-End, List-kext, Binary-tree-left-child  Komparatorer – jämför objekt av den aktuella ADTn med varandra  Equal, Set-Subset

7 Datastrukturer och algoritmer VT 2003 7© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Uttrycksfullhet  Abstrakt datatyp = objekt + konstruktion av gränsytan.  Frågor att fundera kring vid skapande av ADT:  Vilken är värdemängden?  Vilka interna resp. externa egenskaper har objekten?  Vad ska man göra med objekten?  Specificera en gränsyta informellt och formellt.  Överväga olika implementationsmöjligheter.  Kan jag göra det jag vill kunna göra med objekten??  Uttrycksfullhet

8 Datastrukturer och algoritmer VT 2003 8© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Uttrycksfullhet  Datatypsspecifikationen har två roller:  Slå fast hur datatypen är beskaffad, vilka egenskaper den har.  Fungerar som en regelsamling för användningen av datatypen.  Specifikationens uttrycksfullhet kan mätas med tre begrepp  Objektfullständighet  Algoritmfullständighet  Rik gränsyta

9 Datastrukturer och algoritmer VT 2003 9© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Objektfullständighet  Är det svagaste kriteriet.  Det ska vara möjligt att konstruera och skilja mellan alla objekt som anses höra till datatypen.  Man ska kunna skilja på två objekt A och B med en sekvens av operationer I  O l  O 2 …  O n (n  0) (I = Inspektor, O = Operation)  Om vi tittar på en tabell oEmpty, Insert och Max (största definierade tabellvärdet) är inte objektfullständigt. Kan inte skilja på två tabeller med samma max-värde. oEmpty, Insert och Lookup räcker!

10 Datastrukturer och algoritmer VT 2003 10© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Algoritmfullständighet (Expressive completeness)  Starkare än (och implicerar) objektfullständighet.  Man ska kunna implementera alla algoritmer i denna datatyp.  Dvs allt som man kan göra med datatypen ska också gå att implementera utifrån specifikationens operatorer. oRäcker att visa att man kan implementera ett test av likhet mellan två dataobjekt med hjälp av operationerna. –Vill man veta varför: Läs artikeln (Kapur, Srivas ”Computability and implementability issues in abstract data types”).  Alltså: Algoritmfullständighet = objektfullständighet + likhetstest

11 Datastrukturer och algoritmer VT 2003 11© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Rik gränsyta (Expressive richness)  Starkaste kriteriet, implicerar både objektfullständighet och algoritmfullständighet.  Även om man har algoritmfullständighet så kan vissa algoritmer bli hopplöst ineffektiva.  Krav: Man ska med hjälp av gränsytan kunna implementera speciella analysfunktioner som kan  Ta fram all information som krävs ur ett dataobjekt för att sedan kunna rekonstruera objektet med enbart komposition av analysfunktionerna.  De olika analysfunktionerna får varken innehålla iteration eller rekursion i sin definition.

12 Datastrukturer och algoritmer VT 2003 12© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Rik gränsyta-exempel  Stack-specifikationen har en rik gränsyta.  Isempty kan avgöra om stacken är Empty eller konstruerad som push(x, s) för något x och s. Top ger x och Pop ger s.  För vilken stack som helst kan ändliga kompositioner av dessa analysfunktioner oplocka ut vart och ett av elementen i stacken ohitta strukturen, ordningen på dem outifrån detta kan stacken återskapas

13 Datastrukturer och algoritmer VT 2003 13© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Praktisk uttrycksfullhet  Vi har teoretiska mått på uttrycksfullhet  Objektfullständighet, algoritmfullständighet och rik gränsyta.  Måste man uppfylla alla tre kraven?  Ibland blir en rik gränsyta opraktisk, man saknar vissa operationer. oUtskrifter, längdfunktioner eller kopieringsfunktioner tex.  Hur skapar man en gränsyta?

14 Datastrukturer och algoritmer VT 2003 14© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Att utforma en gränsyta  Man utgår från de operationer som bidrar till att ge ADTn sin speciella karaktär.  Sedan applicerar man de teoretiska begreppen. Lägger till vissa operationer och tar bort andra. Målet är att operationerna  Ger en objektfullständig gränsyta  Är primitiva (kan inte delas upp i mindre operationer)  Ger en algoritmfullständig gränsyta  Är oberoende, kan inte ta bort en enda operation och ändå ha kvar en algoritmfullständig gränsyta.  Detta ger en rätt stram yta med få operationer.

15 Datastrukturer och algoritmer VT 2003 15© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Fördelar med en stram gränsyta  Utbytbarhet  Man kan börja med enkla implementationer och sedan byta ut mot allt effektivare.  Portabilitet  Mindre problem att flytta ett program med få op.  Integritet  Mindre risk för att operationer läggs till som strider mot grundidén med ADTn.

16 Datastrukturer och algoritmer VT 2003 16© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Programspråksstöd för ADTs  ML – abstype  Operationerna är samlade på ett ställe.  Starkt stöd för att dölja implementationen. Man kan bara nå typen via operationen – inte gena och utnyttja intern struktur.  Java – paket, klass och subklasser  Man har ett interface eller en abstrakt klass som definierar ADTn.  Sedan skapar man underklasser för olika implementationer av ADTn.  Finns inget naturligt stöd för att ta bort/dölja vissa delar av gränsytan.  Utnyttjas Object kan man inte se till att alla element är av samma typ.

17 Datastrukturer och algoritmer VT 2003 17© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Programspråksstöd för ADTs  Många språk ger mycket litet eller inget stöd alls. Då krävs:  Konventioner oNamngivning oOperationsval  God dokumentation av olika val som görs.  Disciplin oInte gå in och peta i interna strukturer

18 Datastrukturer och algoritmer VT 2003 18© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Design av algoritmer  Problemlösningsstrategier  Top-down  Bottom-up  Typer av algoritmer (lösningstekniker)  ”Brute-force”  Giriga algoritmer (Greedy-algorithms)  Söndra och härska (Divide and Conquer)  Dynamisk programmering

19 Datastrukturer och algoritmer VT 2003 19© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Brute-force  En rättfram ansats där man utgår direkt från problemställningen och de definitioner som finns där.  Om problemet är kombinatoriskt så gör man en fullständig sökning  Genererar och numrerar alla tänkbara svar/lösningar  Välj den bästa lösningen  Bra metod att starta med  Garanterar en korrekt lösning om en sådan finns  MEN garanterar inte effektivitet…  Ofta väldigt enkla algoritmer

20 Datastrukturer och algoritmer VT 2003 20© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Brute-force: Exempel  Linjär sökning  Söka det minsta talet i en lista  Antar att alla element är det lägsta  Kolla alla mot alla  Handelsresande problemet  Besöka alla städer bara en gång  På minst kostsamma sätt

21 Datastrukturer och algoritmer VT 2003 21© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Brute-force (2)  Många problem vet man inte av någon bättre lösning än brute force till.  Ger ofta hög tillväxt på tidskomplexiteten  Speciellt för problem där antalet svar ökar snabbt med ökad problemstorlek  Går ofta att effektivisera de naiva algoritmerna  Avbryta en sökning när man nått en lösning oBättre med en lösning än den bästa.  Avbryta så fort man inser att vägen inte leder till en lösning

22 Datastrukturer och algoritmer VT 2003 22© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Giriga (Greedy) algoritmer  METOD:  I varje steg titta på alla möjliga steg och välj den för tillfället bästa vägen.  Bra för optimeringsproblem  I många fall får vi optimal lösning med en greedy algoritm. oOm den optimala lösningen kan nås via stegvisa lokala förändringar av starten  Heuristisk metod vs. dreedy  Garanti för optimal lösning  greedy  Bra alternativ till brute-force algoritmer

23 Datastrukturer och algoritmer VT 2003 23© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Exempel  Att lämna tillbaka växel  Minimalt antal mynt i växel  Ta alltid det största möjliga myntet i varje ”loop- varv”  Minimalt uppspänt träd  Kruksals algoritm  Prims algoritm  Kortaste vägen i en graf (Diijsktras algoritm)  Huffman-kodning

24 Datastrukturer och algoritmer VT 2003 24© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 ”The Fractional Knapsack Problem”  Givet, en mängd p med n element där element i har värde/förtjänst b i (benefit) > 0 och en vikt w i > 0  Mål: Välja element med maximal förtjänst utan att den totala vikten blir mer än den maximala vikten W.  I ”The Fractional Knapsack Problem” får man ta bitar av elementen (fractions).  Låt x i vara mängden vi tar av element i Maximera: med begränsningen:  Regel: För varje gång ta elementet med maximalt värde (förtjänst/vikten).  O(n log n)

25 Datastrukturer och algoritmer VT 2003 25© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003

26 Datastrukturer och algoritmer VT 2003 26© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Söndra och härska (Divide and Conquer)  METOD:  Söndra: Dela upp datat/problemet i två eller flera delar som löses rekursivt. Dessa delar bör vara ungefär lika stora.  Härska: Konstruera en slutlösning från dellösningarna.  Leder till rekursiva algoritmer med minst två rekursiva anrop.  Kan vara en lösning när det är svårt hitta iterativa lösningar  Är ibland effektivare även om det finns iterativ lösning  Ibland beräknas en dellösning många gånger (= ineffektivt)  O(nlogn) är vanligt  Merge-sort och Quick-sort  Kan ställa krav på implementering av ADT

27 Datastrukturer och algoritmer VT 2003 27© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Ex: Finn de 2 minsta elementen i en lista  Första försöket:  Sortera listan O(nlogn)  Ta fram de två första elementen O(1)  Alternativ  Hitta en effektiv lösning på ett enklare problem o”lösa nästan rätt problem” vs ”lösa problemet nästan rätt” oEnklare att hitta bara det minsta elementet! O(n) –n-l jämförelser oKonvertera till original problemet. Vad får vi då? O(2*n)?  Hitta en ineffektiv lösning på originalproblemet

28 Datastrukturer och algoritmer VT 2003 28© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Söndra och härska algoritm kanske?  Hur skall vi dela data?  Två halvor och söka efter minsta i båda halvorna? oDetta ger inte en korrekt lösning  Om vi sorterar båda halvorna och sedan i sammanslagningen hitta de två elementen då? oMerge-sort eller …? oIneffektiv för detta problem  Kan vi dela data på något annat sätt? oByta delnings faktor till 3, ger det något? kjet oMen ….

29 Datastrukturer och algoritmer VT 2003 29© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Om vi delar upp listan i par  N/2 par, sortera dessa  Det första paret (a, b)  ”Conquer-fasen”  Stega igenom paren (x i y i ), det finns fyra fall: oingen ändring, ox i mindre än b men inte a ox i mindre än båda men inte y i oBåda nya mindre än de förra  Vi behöver bara ställa två frågor för att täcka alla 4 fallen oT(n) = 2(n/2-l)+n/2 (sorteringen) -> T(n) = 3n/2

30 Datastrukturer och algoritmer VT 2003 30© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Dynamisk programmering  Undviker problemet med söndra och härska, dvs att samma problem kan lösas flera gånger.  METOD:  Lös större och större problem tills man har löst sitt problem av storlek n, och använd information från föregångarna för i varje steg  Ställ upp en tabell som håller reda på redan kända lösningar. oFör varje nytt anrop kollar man om man redan löst det problemet och hämtar det oOm inte löser man det och sätter in lösningen i tabellen.

31 Datastrukturer och algoritmer VT 2003 31© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Exempel  l-dimensionell  k! = fac(n) = l*2*3*…*n ortnyttja att man vet (n-l)! när n! ska beräknas  Multi-dimensionell dynamisk programmering  Matrisbaserad shortest path  0-l knap sack oeär får man alltså inte delar av elementen utan måste ta allt på en gång.

32 Datastrukturer och algoritmer VT 2003 32© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Exempelproblem:  Du ska skapa ett program som spelar ett spel mot en person med följande regler.  Det ligger 30 tändstickor på bordet. Spelarna får plocka upp 1, 2, eller 3 tändstickor varje gång och spelet pågår tills den sista stickan plockas upp. Den som tar upp sista stickan förlorar.  Om datorn alltid får börja, hur ska den se till att den vinner?

33 Datastrukturer och algoritmer VT 2003 33© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Vilken algoritm?  Brute-force  Testa alla varianter och leta fram den bästa…  Giriga algoritmer  Hur vet man i varje steg vilken väg som är den bästa?  Divide and Conquer  Hur ska man dela upp?  Dynamisk programmering

34 Datastrukturer och algoritmer VT 2003 34© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Dynamisk programmering  Vi börjar med problemet nedifrån och upp.  Målet: Datorns sista drag ska lämna en sticka kvar.  Hur kan jag hamna i det läget? oOm motspelaren startar ett spel med bara 5 stickor: oOK, hur få motspelaren att hamna med 5 stickor? –Se till att denne hamnar med 9 stickor! oFortsätt tänka ”bottom-up” –1, 5, 9, 13, 17, 21, 25, 29 –Alltså ska datorn alltid starta med att bara dra en sticka! Mot- spelare DatorKvar 311 221 131 Mot- spelare DatorKvar 315 225 135

35 Datastrukturer och algoritmer VT 2003 35© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Biologiskt insperade algoritmer  Evolutionär programmering  Genetiska algoritmer (Holland)  Genetisk programmering  Sociala algoritmer  Myralgoritmer  Flockalgoritmer  Foraging  Simulated annealing 