Entwicklung eines wissensbasierten Meta-Lernmodells

Abstract

AutoML makes machine learning more efficient and accessible to users without extensive technical knowledge. One of the approaches to AutoML is meta-learning, which deals with the question of how models or algorithms can learn or adapt more efficiently based on experience from previous learning processes. For meta-learning models, an efficient representation of such previous knowledge is required. We address this challenge with knowledge graphs, which offer more scalability than relational databases. In particular, we use the Open Research Knowledge Graph (ORKG) as it already contains resources suitable for meta-learning. We identify the most commonly used meta-features, analyze existing machine learning schemes to check their applicability for representing meta-learning, ingest the meta-features and knowledge of ML experiments into the ORKG, and finally implement a meta-learning model using ORKG data. The model allows us to find relevant ORKG contributions given a new dataset.

Durch die Automatisierung der Modellentwicklung wird der Prozess effizienter und auch für Benutzer ohne umfassende technische Kenntnisse zugänglich. Eine Möglichkeit, die Entwicklung von Modellen zu automatisieren, ist Meta-Learning. Meta-Learning ist ein Bereich des automatisiertes maschinellen Lernens, der sich mit der Frage beschäftigt, wie Modelle oder Algorithmen entwickelt werden können, um effizienter zu lernen oder sich anzupassen, basierend auf Erfahrungen aus früheren Lernprozessen. Um die Anpassungsfähigkeit und Leistungsfähigkeit von Meta-Learning- Modellen zu verbessern, ist eine effiziente Repräsentation und Speicherung von Wissen erforderlich. Zunächst ist zu erwähnen, dass Knowledge Graphen für die Speicherung von Meta-Learning geeignet sind. Insbesondere der Open Research Knowledge Graph (ORKG) enthält bereits einige geeignete Graphmodelle, die mehr Flexibilität bieten als der Rational Graph. Unser Problem ist: Wie kann Wissen für Meta-Learning skalierbar repräsentiert und gespeichert werden? Wir können dies erklären, indem wir existierende maschinelle Lernschemen analysieren, um ihre Anwendbarkeit für Meta-Learning zu prüfen und die wichtigsten Meta-Features zu identifizieren, dann die Meta-Features und das Wissen über MLExperimente in ORKG für eine bessere Repräsentation einfügen und schließlich ein Meta-Lernmodell unter Verwendung von ORKG-Daten entwickeln. Wir haben am Ende ein KNN-Modell entwickelt, das die nächsten Nachbarn des Datasets basierend auf den Meta-Features berechnet. Damit lassen sich relevante ORKG Contributions über ähnliche Datensätze hinweg finden. Am Ende haben wir auch Testdatensätze mit verschiedenen Werten erstellt, um die Genauigkeit zu berechnen.