staging.inyokaproject.org

Hallo,

Ich finde das Thema "Federated Learning" und insbesondere "Federated Learning auf mobilen Geräten" ziemlich spannend.

Ich vermute, dass 99,9% der Smartphone-Nutzer:innen Null Ahnung haben, wie viel Künstliche Intelligenz (KI) in den Smartphones routinemäßig fleißg werkelt - ohne dass auf die Cloud-Dienste der Anbieter Hard- und Software zugegriffen wird, also offline-KI. Die Anbieter von KI-Lösungen haben auch gar kein Interesse die Kunden darüber aufzuklären, dass die Verbesserung der Qualität dieser KI-Lösungen nicht zuletzt durch Training der jeweiligen Sprachmodelle durch die Kunden selbst nebenbei erledigt wird. Und die Stromrechnung für die Trainingseinheiten zahlen die Kunden selbst.

Die einschlägigen Quellen - s. bspw. (NICHT von ChatGPT recherchierte) Quellen ^[1] bis ^[4] - suggerieren, dass dank der gestiegener Leistungsfähigkeit der Hardware und der verfügbaren Open Source Software die Hürde, die man zu überwinden hat, um mit kleinem Budget eine Machine Learning fähige Infrastruktur in Betrieb zu nehmen, spürbar gesunken ist.

Mir fällt die nötige Routine in der Handhabung von Linux, sonst würde es bestimmt nicht lange dauern, bis ich die Rechenleistung der im Haushalt befindlicher Smartphone (dazu per remote die Gerätschaften der gesamten Verwandtschaft) - insbesondere nachts - für's Training der Home-KI eingespannt hätte. Mit der Zeit würde sich dann vlt. ein vielseitig begabter paKIBot, der auf die Bedürfnisse der Familienbande perfekt angepasst ist, entwickeln 😇 😎 . Ich suche nach Mitstreitern, die daran interessiert sind, dass Home-KI Realität wird.

Quellenverzeichnis

1. DEEP LEARNING → FEDERATED LEARNING IN 10 LINES OF PYTORCH + PYSYFT, 01.03.2019 - https://blog.openmined.org/upgrade-to-federated-learning-in-10-lines/

2. PyTorch Mobile - https://pytorch.org/mobile/home/

3. How on-device machine learning has changed the way we use our phones, 03.07.2021 - https://www.androidauthority.com/machine-learning-phones-1238287/

4. Artificial Intelligence in Smartphones: The Next Revolution, 14.07.2022 - https://codiste.com/artificial-intelligence-in-smartphones/

Ich habe zwar kein Smartphone, wenn es für Home KI sinnvolle Anwendungsbereiche gibt, würde ich da aber schon mitmachen. Hab ja früher auch Seti@home laufen lassen.

@verdooft:

Kannst du abschätzen, was für Zeitaufwand für einen durchschnittlichen Python-Entwickler bedeuten wird,

10 Codezeilen ändern, um offiziellen Pytorch-Beispiel auf MNIST zu einer echten Federated-Learning-Aufgabe aufzurüsten

damit man das Federated Learning MNIST-Trainingsbeispiel aus dem Artikel "DEEP LEARNING → FEDERATED LEARNING IN 10 LINES OF PYTORCH + PYSYFT" testen kann?

Welche:

• Hardware: CPU-Leistung, RAM-Speicher

• Betriebssystem: Name, Version

• Laufzeitumgebung: installierte Software

• ...?

sind dafür Voraussetzung, dass man diese Aufgabe erledigen kann?

KORREKTUR: Ich sehe gerade, dass die Künstliche Intelligenz mir fälschlicherweise "fällt" statt "fehlt" im Satz

Mir fehlt die nötige Routine in der Handhabung von Linux, sonst würde es bestimmt nicht lange dauern"

untergeschoben hat.

Das kann ich nicht abschätzen. Ich habe auch keine GPU, die für Training geeignet wäre. Wenn man sowas aber per verteiltem Rechnen realisieren könnte, käme schnell viel Rechenpower zustande. Du meinst ja was von Smartphones. Ich kenne die Geräte nicht, weil ich nie eines hatte. Mir stellt sich eher die Frage, was du bezüglich der Einsatzbereiche mit "Bedürfnisse der Familienbande" meinst. Gemeinsam im Wald spazieren zu gehen und Brettspiele spielen ersetzt die KI ja kaum.

verdooft schrieb:

Mir stellt sich eher die Frage, was du bezüglich der Einsatzbereiche mit "Bedürfnisse der Familienbande" meinst. Gemeinsam im Wald spazieren zu gehen und Brettspiele spielen ersetzt die KI ja kaum.

Also welchen Nutzen ein pakiBot bzw. HomeKI einer konkreten FamilieXY bringen kann, bringen wird, dass kann erst geklärt werden, wenn die fleißige frisch gebackene KI den Dienst bei dieser konkreten FamilieXY aufnimmt. Sobald die FamilieXY das SprachmodellXY trainiert also mit den Kontextdaten für den Anwendungsfall XY gefüttert hat, dann KANN ein Tag für die Familie mit so einer Anregung von paKIBotXY starten:

a) "Guten Morgen! Der Wetterbericht sagt für heute Sonnenschein voraus. Vielleicht ist es eine gute Idee, den Rasen zu mähen und die Hecke zu schneiden? Außerdem benötigen wir noch frisches Gemüse und Obst für die nächsten Tage. Kann ich jemanden zum Einkaufen schicken?"

b) "Hallo zusammen! Nur zur Erinnerung: In zwei Tagen hat unser lieber XY Geburtstag. Habt ihr schon Geschenke besorgt oder eine Überraschung geplant? Vielleicht können wir auch gemeinsam das Essen vorbereiten und einen schönen Tag zusammen verbringen. Was meint ihr?"

Übrigens die Anregunen a) und b) oben hat ChatGPT generiert als Reaktion auf diese meine Anfrage:

Mache mal bitte eine Beispiel-Anregung für so einen fiktiven FamilienChatBot an einem Tag, wo diese Tätigkeiten in Frage kämen: a) Einkaufen, Rasen mähen, und sonstige Tätigkeiten im Zusammenhang mit Gartenpflege b) in der näheren Verwandtschaft hat die Person XY einen Geburtstag und entsprechende Vorbereitungen, Vorkehrungen sind zu treffen.

Das ist ja die Besonderheit der "Federated Learning"-Ausprägungen der KI, dass diese jeweils kontextbezogen Trainingseinheiten absolviert, um dann passend zum jeweiligen Kontext entsprechende Verhaltensweisen aufzuzeigen. Der Server, der Provider, bspw. ich als IT-Heini in der Familienbande stelle der jeweiligen Familie nur einen untrainierten Prototyp pakiBot (also quasi halbleere Hülle, ein Template) zur Verfügung. Was die jeweilige Familie damit macht, mit welchen Daten pakiBot gefüttert wird und wie er nach dem Training auf bestimmte Eingaben reagiert, entzieht sich meiner Kenntnis.

Ein ganz simples Beispiel: Wenn ich das Wort "ecos" auf dem Smartphone eintippe, dann blendet die mit Federated Learning trainierte Smartphone-KI vorausschauend bereits "ecos@meinetopleveldomainXY.de" ein, damit ich mir die Tipparbeit sparen kann. Bei einem anderen Familienmitglied, der/die das gleiche Smartphone-Modell mit dem gleichen Betriebssystem nutzt, könnte die Reaktion beim Eintippen von "ecos" "ecos@topleveldomainYX.de", "die Grüne Partei" oder sonstwas sein.

FRAGE @verdooft: Käme für dich in Frage, hast du Interesse eine der (1) hier von ChatGPT genannten Federated Learning Lösungen zu testen? Bspw. das Open-Source-Tool TensorFlow Federated? Die von ChatGPT generierte URL

https://www.tensorflow.org/federated/overview

, die hier (1) genaant ist, ist fehlerhaft, aber die Website https://www.tensorflow.org existiert und enthält IMHO nützliche Informationen zum Thema.