Tech

Transfer Learning bietet neue Einblicke in die Fehlerschätzung durch maschinelles Lernen

Bildnachweis: CC0 Public Domain

Omar Maddouri, Doktorand an der Fakultät für Elektrotechnik und Computertechnik der Texas A&M University, arbeitet mit Dr. Byung-Jun Yoon, Professor, und Dr. Edward Dougherty, Robert M. Kennedy Chair Professor, zusammen, um Modelle für maschinelles Lernen zu evaluieren Transfer-Learning-Prinzipien anwenden. Dr. Francis „Frank“ Alexander von den Brookhaven National Labs und Dr. Xiaoning Qian vom Department of Electrical and Computer Engineering der Texas A&M University sind ebenfalls an dem Projekt beteiligt.

Beim datengesteuerten maschinellen Lernen werden Modelle erstellt, um Vorhersagen und Schätzungen darüber zu treffen, was in einem bestimmten Datensatz passieren wird. Ein wichtiges Feld des maschinellen Lernens ist die Klassifikation, die es ermöglicht, einen Datensatz durch einen Algorithmus zu bewerten und dann in Klassen oder Kategorien zu klassifizieren oder zu unterteilen. Wenn die bereitgestellten Datensätze sehr klein sind, kann es sehr schwierig sein, nicht nur ein Klassifizierungsmodell auf der Grundlage dieser Daten zu erstellen, sondern auch die Leistung dieses Modells zu bewerten und seine Genauigkeit sicherzustellen. Hier kommt Transfer Learning ins Spiel.

„Beim Transferlernen versuchen wir, Wissen zu übertragen oder Daten aus einem anderen Bereich zu bringen, um zu sehen, ob wir die Aufgabe, die wir im Interessenbereich oder im Zielbereich erledigen, verbessern können“, erklärte Maddouri.

In der Zieldomäne werden die Modelle erstellt und ihre Leistung bewertet. Die Quelldomäne ist eine separate Domäne, die für die Zieldomäne noch relevant ist, aus der Wissen übertragen wird, um die Analyse innerhalb der Zieldomäne zu erleichtern.

Das Projekt von Maddouri verwendet eine gemeinsame vorherige Dichte, um die Verwandtschaft zwischen den Quell- und Zieldomänen zu modellieren, und bietet einen Bayes’schen Ansatz, um die Transfer-Learning-Prinzipien anzuwenden, um einen Gesamtfehlerschätzer der Modelle bereitzustellen. Ein Fehlerschätzer liefert eine Schätzung, wie genau diese maschinellen Lernmodelle die vorliegenden Datensätze klassifizieren.

Das bedeutet, dass das Team vor der Beobachtung von Daten ein Modell erstellt, das seine anfänglichen Schlussfolgerungen zu den Modellparametern in den Ziel- und Quelldomänen verwendet, und dieses Modell dann mit erhöhter Genauigkeit aktualisiert, wenn mehr Beweise oder Informationen über die Datensätze verfügbar werden.

Diese Technik des Transferlernens wurde verwendet, um Modelle in früheren Arbeiten zu erstellen; jedoch hat noch nie jemand diese Transfer-Lerntechnik verwendet, um neuartige Fehlerschätzer zur Bewertung der Leistung dieser Modelle vorzuschlagen. Für eine effiziente Nutzung wurde der entwickelte Schätzer unter Verwendung fortschrittlicher statistischer Methoden implementiert, die ein schnelles Screening von Quelldatensätzen ermöglichten, was die Rechenkomplexität des Transferlernprozesses um das 10- bis 20-fache erhöht.

Diese Technik kann dazu beitragen, als Maßstab für zukünftige Forschung innerhalb der Wissenschaft zu dienen, auf der aufgebaut werden kann. Darüber hinaus kann es bei der Identifizierung oder Klassifizierung verschiedener medizinischer Probleme helfen, die sonst sehr schwierig wären. Zum Beispiel nutzte Maddouri diese Technik, um Patienten mit Schizophrenie zu klassifizieren, indem er Transkriptomdaten von Gehirngewebeproben verwendete, die ursprünglich durch invasive Gehirnbiopsien gewonnen wurden. Aufgrund der Art und Lage der Gehirnregion, die auf diese Störung analysiert werden kann, sind die gesammelten Daten sehr begrenzt. Unter Verwendung eines strengen Merkmalsauswahlverfahrens, das eine differenzielle Genexpressionsanalyse und statistische Tests auf die Gültigkeit von Annahmen umfasst, identifizierte das Forschungsteam Transkriptomprofile von drei Genen aus einer zusätzlichen Gehirnregion, die sich als hochgradig relevant für das gewünschte Gehirngewebe herausstellte, wie von unabhängiger Forschung berichtet wurde Studien aus anderer Literatur.

Dieses Wissen ermöglichte es ihnen, die Transferlerntechnik zu nutzen, um Proben zu nutzen, die aus der zweiten Gehirnregion (Quelldomäne) gesammelt wurden, um bei der Analyse zu helfen und die Genauigkeit der Diagnose innerhalb der ursprünglichen Gehirnregion (Zieldomäne) erheblich zu verbessern. Die aus dem Quellbereich gesammelten Daten können in Ermangelung von Informationen aus dem Zielbereich explorativ sein, wodurch das Forschungsteam die Qualität seiner Schlussfolgerung verbessern kann.


Vergleich von maschinellen Lernmodellen für die Erdbebenerkennung


Mehr Informationen:
Omar Maddouri et al, Robuste Wichtigkeitsstichprobe für die Fehlerschätzung im Kontext des optimalen Bayes’schen Transferlernens, Muster (2022). DOI: 10.1016/j.patter.2021.100428

Bereitgestellt von der Texas A&M University

Zitat: Transfer Learning Offers New Insight into Machine-Learning Error Estimation (2022, 9. März), abgerufen am 9. März 2022 von https://techxplore.com/news/2022-03-insight-machine-learning-error.html

Dieses Dokument ist urheberrechtlich geschützt. Abgesehen von einem fairen Handel zum Zwecke des privaten Studiums oder der Forschung darf kein Teil ohne schriftliche Genehmigung reproduziert werden. Der Inhalt dient nur zu Informationszwecken.


💙 Intern: Weil wir unabhängig sind, sowie keinen "unendlichen" Gewinn anstreben, geben wir in jedem Monat ungefähr ein drittel, aller Einnahmen aus Werbung und Spenden an die Katastrophenschutzhilfe. 
Wir freuen uns auch über jede kleine Spende z.B. über PayPal.

Ähnliche Artikel.

Wie Mastercard und Visa Scams und Betrug tolerieren

Paul Paolucci, der Top-Cop für eines der größten Kreditkartenunternehmen der Welt hatte sicherlich einige interessante Freunde.Einer machte ein Vermögen als Frontmann für Pornografie-Websites, die…

Sei ängstlich, wenn andere gierig sind

Warren Buffett hat einmal gesagt, dass es für Anleger klug ist, „ängstlich zu sein, wenn andere gierig sind, und gierig, wenn andere ängstlich sind“. Diese Aussage ist eine etwas konträre Sicht auf…

7 Details, die nur echte Zelda-Experten kennen

Breath of the Wild: 7 Details, die nur echte Zelda-Experten kennen. Für Links auf dieser Seite kann NerdsWire.de vom Händler eine Provision erhalten, z.B. für diejenigen, die mit blau markiert oder…

1 of 687