02-02-18Industriella tillämpningar inom bildanalysen Neuronnät Peter Wintoft Institutet för rymdfysik i Lund.

Slides:



Advertisements
Liknande presentationer
Artificiellt Liv och Intelligens
Advertisements

Nya kunskaper om ozon - orsaker, effekter och trender
Test av mobila lösningar i molnet
Presentationsmaterial EFFSYS 2 dagen Milestone Modell för identifiering av lämplig effektivisering av energitekniska system med värmepumpar.
Etik Hur ska vi vara mot varandra?
WAGO KNX koncept Svensk installationsguide
Industriella tillämpningar inom bildanalysen Neuronnät och identifiering av CME’s Peter Wintoft Institutet för rymdfysik i Lund.
© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2003 Datastrukturer och algoritmer Föreläsning
Tillgängliga mobila gränssnitt Andreas Blackne
Internationell Utblick
ESAC  European Surveillance of Antimicrobial Consumption  eller via länk från
FL4 732G70 Statistik A Detta är en generell mall för att göra PowerPoint presentationer enligt LiUs grafiska profil. Du skriver in din rubrik,
Ergonomi.
Vilka var de viktigaste lärdomarna från caset?
Numeriska beräkningar i Naturvetenskap och Teknik
Styr mot syftet och de önskade effekterna och använd prioriteringar som redan är gjorda i effektkartan.
Föreläsning 7 Analys av algoritmer T(n) och ordo
Speltestning -Fuzzy Logic. Syfte - Utveckla en metod för att i så stor utsträckning som möjligt automatiskt kunna hitta kryphål och strategier i ett spel,
Predicting protein folding pathways.  Mohammed J. Zaki, Vinay Nadimpally, Deb Bardhan and Chris Bystroff  Artikel i Bioinformatics 2004.
Dette har skjett i tidigere episode:
Olika mått på grad av fetma - Spelar det någon roll hur vi mäter?
Emergenta system, HT04 Kantdetektion av artificiella myror Emma Rozada, Joel Sandström Kantdetektion med artificiella myror – Emergent beteende eller inte?
Ny guide för inköp av elkrävande utrustning samt projektering, ändringar och renoveringar.
© Anders Broberg, Ulrika Hägglund, Lena Kallin Westin, 2004 Datastrukturer och algoritmer Föreläsning 3.
Blir det bättre med vårdval i primärvården? DLF symposium 15 nov 2012 Anders Anell Ekonomihögskolan, Lunds universitet.
Köksbordsmaterial växtnäringsbalanser Bilder till kokboken om växtnäringsbalanser.
PGSA-hjulet.
Introduktion till VISS. Vad är VISS? Databas för vattenförvaltning Kartfunktion VISS-Hjälp.
Projekt och Arkitektur
Skattningens medelfel
Petr Leitner 3: e generationen av flytande/fluid reaktorer EUROFERT s.r.o.
Are idioms difficult to learn? After this program it will ’be a piece of cake’
Optiska instrument och ögat
Förelasning 6 Hypotesprövning
Rymdväder och prognoser Rymdens fysik Peter Wintoft.
1. Konnektionism – grunderna
En mycket vanlig frågeställning gäller om två storheter har ett samband eller inte, många gånger är det helt klart: y x För en mätserie som denna är det.
FS Dynamics Sweden AB Jungmansgatan 31 • SE Göteborg • Sweden • Tel: +46 (0) e-post: • internet:
Levande Engelska Syracuse Language Systems svensk bearbetning 1999: Levande Böcker i Norden AB För: Windows 98/95.
Plancks konstant. Hg U G + - Frekvensen av det ljus som träffar cesiumplattan varieras m.h.a olika filter.
FL3: Foundations Daniel Nylén. Kognitiv psykologi & IxD Centrala teorier om kognitiv psykologi utgör grunden för HCI- forskningen Att vara människocentrerad.
Simulering Introduktion Exempel: Antag att någon kastar tärning
Bernstein et al, Prevalence and stability of the DSM-III- R Personality Disorders in a Community- Based Survey of Adolescents, Am J Psychiatry,1993; 150:
AB Volvo Industrial Electrical Engineering and Automation, Lund University, Sweden SuperCool.
En samling vokaler och konsonanter
Kapitel 8 Utbudsteorin utvecklad: Kostnader och produktion David Begg, Stanley Fischer and Rudiger Dornbusch, Economics, 6th Edition, McGraw-Hill, 2000.
1 Computer Science & Communication Martin Rehn, CBN, KTH Hjärnan i datorn Martin Rehn CBN, CSC, KTH f.d. SANS, NADA, KTH.
Matematisk statistik och signal-behandling - ESS011 Föreläsning 3 Igor Rychlik 2015 (baserat på föreläsningar av Jesper Rydén)
Spektrala Transformer
732G22 Grunder i statistisk metodik
Mål Matematiska modeller Biologi/Kemi Statistik Datorer
1 Ingenjörsmetodik IT & ME 2007 Föreläsare Dr. Gunnar Malm.
Föreläsning 14 Logik med tillämpningar Innehåll u Cuts och negation u Input/output u Extralogiska predikat u Interaktiva program, failure-drivna.
732G22 Grunder i statistisk metodik
Ex 1: Då man tillverkar en viss sorts keramikplattor kan en platta få fel färg med sannolikheten 5% och bubblor i glasyren med sannolikheten 8%. Sannolikheten.
XML, scheman och mappningar
Digitalisering av text Kursintroduktion Mats Dahlström 30 Mars 2005.
PGSA.
Musikkompendium Test. Musikkompendium Test 2 Musikkompendium Test 3.
Kvantitativa forskningsmetoder Sociologi A VT 2015 Ilkka Henrik Mäkinen (momentansvarig)
1 Multipel Regression Kapitel Modell Vi har p oberoende variabler som vi tänker oss kan vara relaterade till den beroende variabeln. Y ~ N( , 
Regression Har långa högre inkomst?. Världsrekord på engelska milen.
Enkel Linjär Regression. 1 Introduktion Vi undersöker relationer mellan variabler via en matematisk ekvation. Motivet för att använda denna teknik är:
Idrottsrörelsens mål är att vara till för alla, men det fungerar inte i praktiken Det saknas mycket kunskap om NPF inom idrotten Unga med NPF har rätt.
Kurvor, derivator och integraler
Stadsledningskontoret Skarpnäck stadsdel Medborgarundersökning 2012
Lektion 4 - rymdväder, effekter och prognoser
Köksbordsmaterial växtnäringsbalanser
Stadsledningskontoret Medborgarundersökning Andel nöjda 2012
Coachande samtal.
Presentationens avskrift:

Industriella tillämpningar inom bildanalysen Neuronnät Peter Wintoft Institutet för rymdfysik i Lund

Industriella tillämpningar inom bildanalysen

Industriella tillämpningar inom bildanalysen Artificiella neuronnät … 1985 – Backpropagation [Rumelhart, Hinton …] – Neuronen [R. Cajál] – Artificiell neuron [McCulloch & Pitts].  1962 – Perceptronen [Rosenblatt] – XOR-problemet [Minsky & Papert]

Industriella tillämpningar inom bildanalysen Dator vs. riktiga neuronnät ASCI White Antal processorer Beräknings- kapacitet (s -1 ) Vikt (kg) Effekt- förbrukning Liten stad Hjärnan potatis Ögon potatisar Myra ?

Industriella tillämpningar inom bildanalysen Artificiell neuron xixi wiwi b a y  y = g(a) a =  w i x i + b

Industriella tillämpningar inom bildanalysen En neuron – linjär klassificering a =  w i x i + b x1x1 x2x2 a = w 1 x 1 + w 2 x 2 + b a = x 1 - x y = g(a) = 0 om a<0 1 om a>0

Industriella tillämpningar inom bildanalysen Två lager med neuroner Input Dolt lager Output-lager xixi w ji (1) y j (1) w kj (2) y k (2) y k (2) =g 2 (  w kj (2) y j (1) + b k (2) ) y j (1) =g 1 (  w ji (1) x i + b j (1) )

Industriella tillämpningar inom bildanalysen Två lager – icke-linjär klassificering x1x1 x2x2

Industriella tillämpningar inom bildanalysen Feed-forward neuronnät 4 Ett lager –Linjär klassificering 4 Två lager –(Konvex) icke-linjär klassificering –Kontinuerliga icke-linjära kurvor 4 Tre lager –Generell icke-linjär klassificering –Icke-kontinuerliga och icke-linjära kurvor

Industriella tillämpningar inom bildanalysen Hur bestämmer man vikterna? Linjärt filter x = x1x1 xmxm y =  w i x i = w T x wmwm w1w1 y = [y(1),y(2),…,y(n)] X = [x(1),x(2),…,x(n)] Filtrets output: y = w T X w T = d X (XX ) T T Minsta-kvadratlösning: Önskad output: d (p)

Industriella tillämpningar inom bildanalysen Hur bestämmer man vikterna? Feed-forward neuronnät xixi w ji (1) y j (1) w kj (2) y k (2)

Industriella tillämpningar inom bildanalysen Error-backpropagation Summed squared error: E = 1/2  p,k (d k (p)-y k (p)) 2 Error gradient ∂E ∂w∂w ∆w = -  +  ∆w prev. och momentum:

Industriella tillämpningar inom bildanalysen Träningsstrategi för feed-forward neuronnät 4 Välj ut tre dataserier för –träning, –validering respektive –test. 4 Variera antalet dolda neuroner och träna varje neuronnät flera gånger (3-10) utifrån olika slumpmässigt valda vikter. 4 Välj neuronnätet med det minsta valideringsfelet. 4 Bestäm prestandan på testserien.

Industriella tillämpningar inom bildanalysen Hur länge skall man träna? Validation Local minimumGlobal minimum?

Industriella tillämpningar inom bildanalysen Hur många dolda neuroner? RMS Error # neurons

Industriella tillämpningar inom bildanalysen 3 Exempel 1: Textigenkänning I Optical Character Recognition (OCR) Tolka handskrivna postnummer [LeCun et al., 1990]. Bild med 20x20 pixlar

Industriella tillämpningar inom bildanalysen Exempel 1: Textigenkänning II FFNN med lokala receptiva fält. [Haykin, 1994]. Input Lager 1 Lager 2 Lager 3 Lager 4 Lager 5

Industriella tillämpningar inom bildanalysen Exempel 1: Textigenkänning III Lokala receptiva fält

Industriella tillämpningar inom bildanalysen Exempel 1: Textigenkänning IV

Industriella tillämpningar inom bildanalysen Exempel 1: Textigenkänning V 4 Lager 1–4 implementerade på ett neuron- kretskort. 4 Lager 5 DSP-kort. 4 Test på riktiga brev gav –2.5% fel för människa –5.5% fel för neuronnät

Industriella tillämpningar inom bildanalysen Exempel 2: Bildkomprimering I FFNN med lika input och output samt 3-5 dolda lager. Input Output Komprimering Rekonstruktion

Industriella tillämpningar inom bildanalysen Exempel 2: Bildkomprimering II

Industriella tillämpningar inom bildanalysen Människa I varje givet ögonblick kontrolerar hjärnan 244 frihetsgrader med över 600 muskler.

Industriella tillämpningar inom bildanalysen Self-organized map – SOM Input SOM Mappa input till en (vanligen) 2-dimensionell karta och om möjligt bevara topologin.

Industriella tillämpningar inom bildanalysen Exempel 3: Robotseende

Industriella tillämpningar inom bildanalysen Referenser 4 Haykin, Neural networks – a comprehensive foundation, Macmillan, Ritter, Martinetz, Schulten, Neural computation and self- organizing maps, Addison-Wesley Publ. Comp., Swingler, Applying neural networks – a practical guide, Academic Press, OCR – 4 Bildkomprimering –