KI lernt rückwärts zu denken und enthüllt verborgene Naturkräfte

Was die Studie zeigt

Forscher nutzen sie, um hochkomplexe Systeme wie Wetterphänomene, das Materialverhalten und sogar die Organisation zu untersuchen. Inverse PDEs sind besonders herausfordernd, da sie den üblichen Prozess umkehren.

Statt mit bekannten Regeln zu beginnen, um Ergebnisse vorherzusagen, starten Wissenschaftler mit beobachteten Daten und versuchen, die dahinterliegenden, verborgenen Dynamiken zu entschlüsseln. „Seit Jahren verwenden wir diese Gleichungen, um zu untersuchen, wie Chromatin, also der gefaltete Zustand der DNA im Zellkern, sich innerhalb lebender Zellen organisiert," sagt Shenoy. „Aber wir stießen immer wieder auf dasselbe Problem: Wir konnten die Strukturen sehen und deren Entstehung modellieren, aber wir konnten die epigenetischen Prozesse, die dieses System antreiben, nicht zuverlässig ableiten – nämlich die chemischen Veränderungen, die steuern, welche Gene aktiv sind." Je mehr wir versuchten, den bestehenden Ansatz zu optimieren, desto deutlicher wurde, dass die Mathematik selbst verndert werden muss.

Ein neuer Weg fr KI, um komplexe Gleichungen zu lsen Im Kern der Herausforderung steht die Differentiation, ein mathematischer Prozess zur Messung, wie schnell sich etwas erhht oder verringert, whrend hhere Ableitungen komplexere Muster erfassen.

Technik und Auswirkungen

Die meisten KI-Systeme, die inverse partielle Differentialgleichungen (PDEs) lsen, sttzen sich auf einen Prozess namens rekursive automatische Differentiation. Dieser berechnet wiederholt nderungen innerhalb eines neuronalen Netzwerks, das das Rckgrat moderner KI-Modelle bildet.

Dieser Ansatz wird jedoch bei hheren Ordnungen oder bei verrauschten Daten instabil. Zudem kann er enorme Rechenleistung erfordern. Die Forscher vergleichen das Problem mit dem wiederholten Heranzoomen auf eine gezackte Linie: Jeder Schritt verstrkt Unvollkommenheiten und Rauschen, wodurch die endgltige Berechnung weniger zuverlssig wird.

Das Team erkannte, dass es einen Weg bentigte, die Daten vor der Messung dieser nderungen zu gltten.

Was die Studie zeigt

Die Wissenschaft hinter Mollifier-Schichten" Ihre Lsung wurde von Mollifiern" inspiriert, mathematischen Werkzeugen, die erstmals in den 1940er Jahren vom deutsch-amerikanischen Mathematiker Kurt Otto Friedrichs beschrieben wurden, der spter die National Medal of Science erhielt. Mollifier sind darauf ausgelegt, raue oder verrauschte Funktionen zu gltten.

Durch die Anpassung dieses Konzepts fr KI schuf das Team eine Mollifier-Schicht", die Signale glttet, bevor das System Ableitungen berechnet. Wir gingen zunchst davon aus, dass das Problem mit der Architektur des neuronalen Netzwerks zusammenhing", sagt Ananyae Kumar Bhartari, Absolventin des Masterstudiengangs Scientific Computing an der Penn Engineering und die zweite Co-Erstautorin der Publikation. Doch nachdem wir das Netzwerk sorgfltig angepasst hatten, stellten wir schlielich fest, dass die Engstelle der rekursiven automatischen Differentiation selbst ist." Laut den Forschern reduzierte die neue Schicht das Rauschen erheblich und verbesserte die Recheneffizienz.

Die Implementierung einer „Mollifier-Schicht", die das Signal vor der Messung glättet, reduzierte sowohl die Rauschigkeit als auch die Skalierung des Stromverbrauchs drastisch. „Damit konnten wir diese Gleichungen zuverlässiger lösen, ohne den gleichen Rechenaufwand," sagt Bhartari.

Was die Studie zeigt

Verständnis der ersten Anwendungen der neuen Methode betrifft das Chromatin, die eng gepackte Kombination aus DNA und Proteinen innerhalb der Zellen, die den Zugang zu genetischer Information steuert. Das Shenoy-Labor untersucht winzige Chromatin-Domänen, die zur Regulation der Genaktivität beitragen.

Diese Strukturen sind extrem klein und messen etwa 100 Nanometer im Durchmesser, spielen jedoch eine enorme Rolle für Gesundheit und Krankheit. „Diese Domänen sind lediglich 100 Nanometer groß", sagt Shenoy, „doch da die Zugänglichkeit die Genexpression bestimmt und die Genexpression die Zellidentität, Funktion, Alterung und Krankheit steuert, spielen diese Domänen eine entscheidende Rolle in Biologie und Gesundheit." Das neue KI-Rahmenwerk könnte Wissenschaftlern dabei helfen, die epigenetischen Reaktionsraten abzuleiten, die diese Veränderungen antreiben, und so aufzeigen, wie Chromatin im Laufe der Zeit evolviert und die Genexpression beeinflusst. „Wenn wir verfolgen können, wie sich diese Reaktionsraten während des Alterns, verändern", fügt Vinayak hinzu, „dann eröffnen sich neue therapeutische Möglichkeiten: Wenn Reaktionsraten die Chromatin-Organisation und das Zellgeschick steuern, dann könnte eine Modifikation dieser Raten Zellen in gewünschte Zustände lenken." Potenzielle Anwendungen jenseits der Biologie Die Forscher glauben, dass Mollifier-Schichten auch in vielen anderen wissenschaftlichen Bereichen nützlich sein könnten.

Komplexe Systeme in der Werkstoffwissenschaft, der Strömungsmechanik und dem wissenschaftlichen maschinellen Lernen beinhalten häufig verrauschte Daten sowie Gleichungen höherer Ordnung.

Das Rahmenwerk kann einen stabileren

Das Rahmenwerk kann einen stabileren und rechnerisch effizienteren Ansatz bieten, um versteckte Parameter in diesen Systemen zu identifizieren. „Ziel ist es letztendlich, den Übergang hin zur quantitativen Aufdeckung der Regeln, die sie erzeugen, zu vollziehen", sagt Shenoy. „Wenn Sie die Regeln verstehen, die ein System steuern, haben Sie nun die Möglichkeit, es zu verändern." Referenz: „Mollifier Layers: Enabling Efficient High-Order Derivatives in Inverse PDE Learning", Ananyae Kumar Bhartari und Vivek Shenoy, 9.

Einreichungsnummer: 6096 Diese Studie wurde an der University of Pennsylvania School of Engineering and Applied Science durchgeführt und wurde unterstützt durch die National Cancer Institute (NCI) Award U54CA261694 (V.B.S.); den National Science Foundation (NSF) Center for Engineering Mechanobiology (CEMB) Grant CMMI-154857 (V.B.S.); den NSF Grant DMS-2347834 (V.B.S.); die National Institute of Biomedical Imaging and Bioengineering (NIBIB) Awards R01EB017753 (V.B.S.) und R01EB030876 (V.B.S.) sowie die National Institute of General Medical Sciences (NIGMS) Award R01GM155943 (V.B.S.).