KI am Rande

Vorwort

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

In den letzten Jahren hat eine wachsende Gemeinschaft von Ingenieuren und Forschern die Regeln dafür, wie Computer mit der physischen Welt interagieren, im Stillen neu geschrieben. Das Ergebnis, eine Technologie, die als "Kanten-Künstliche-Intelligenz" bekannt ist, verspricht, ein Jahrhundert der Computergeschichte auf den Kopf zu stellen und das Leben jedes Menschen zu verändern.

Mit einem winzigen Software-Update kann die Kanten-KI-Technologie billigen, energieeffizienten Prozessoren - die bereits in Geschirrspülern und Thermostaten stecken - die Fähigkeit verleihen, die Welt wahrzunehmen und zu verstehen. Wir können Alltagsgegenstände mit ihrer eigenen Intelligenz ausstatten und sind nicht mehr von datenhungrigen zentralen Servern abhängig. Und die Werkzeuge der nächsten Generation machen diese Magie für jeden zugänglich, von Schülern bis hin zu Umweltforschern.

Es gibt bereits viele Kanten-KI-Produkte auf der Welt. Hier sind einige, die wir auf den Seiten dieses Buches kennenlernen werden:

• Intelligente Geräte, die helfen, Waldbrände zu verhindern, die durch die Stromübertragung verursacht werden, indem sie an Strommasten befestigt werden und vorhersagen, wann eine Störung auftreten könnte

• Tragbare Bänder, die Feuerwehrleute warnen, wenn sie durch Hitzebelastung und Überanstrengung gefährdet sind

• Sprachgesteuerte Benutzeroberflächen, die eine freihändige Steuerung der Technologie ermöglichen, ohne dass eine Internetverbindung erforderlich ist

• Intelligente Halsbänder, die die Bewegungen von wilden Elefanten überwachen und Forschern helfen, ihr Verhalten zu verstehen und sie vor Konflikten zu schützen

• Wildtierkameras, die bestimmte Tierarten identifizieren und Wissenschaftlern helfen, ihr Verhaltenzu verstehen

Die Technologie der Kanten-KI ist noch frisch und neu, und diese bestehenden Anwendungen sind nur ein kleiner Vorgeschmack auf das, was möglich ist. Je mehr Menschen lernen, mit Kanten-KI zu arbeiten, desto mehr werden sie Anwendungen entwickeln, die Probleme in allen Bereichen menschlicher Aktivitäten lösen.

Das Ziel dieses Buches ist es, dich dazu zu befähigen, einer von ihnen zu sein. Wir wollen dir helfen, erfolgreiche Kanten-KI-Produkte zu entwickeln, die auf deinen eigenen einzigartigen Perspektiven basieren.

Über dieses Buch

Dieses Buch richtet sich an die Ingenieure, Wissenschaftler, Produktmanager und Entscheidungsträger, die diese Revolution vorantreiben werden. Es ist ein Leitfaden für den gesamten Bereich, der einen Arbeitsablauf und einen Rahmen für die Lösung realer Probleme mitKanten-KI bietet.

Wir hoffen, dass wir dir unter anderem etwas beibringen können:

• Die Chancen, Grenzen und Risiken der verschiedenen Kanten-KI-Technologien

• Ein Rahmenwerk für die Analyse von Problemen und den Entwurf von Lösungen mithilfe von KI und eingebettetem maschinellem Lernen

• Ein praktischer End-to-End-Workflow für die erfolgreiche Entwicklung vonKI-Anwendungen auf den Kanten

Im ersten Teil des Buches werden in den ersten Kapiteln die wichtigsten Konzepte vorgestellt und diskutiert, damit du die Grundlagen verstehst. Die nächsten Kapitel führen dich durch die praktischen Prozesse, die dir helfen, deine eigenen Anwendungen zu entwerfen und umzusetzen.

Im zweiten Teil des Buches, der in Kapitel 11 beginnt, zeigen wir dir anhand von drei durchgängigen Beispielen, wie du dein Wissen anwenden kannst, um echte Probleme in wissenschaftlichen, industriellen und Verbraucherprojekten zu lösen.

Am Ende des Buches wirst du dich sicher fühlen, wenn du die Welt durch die Linse der Kanten-KI betrachtest, und du wirst ein solides Set von Werkzeugen haben, mit denen du effektive Lösungen entwickeln kannst.

Hinweis

Dieses Buch behandelt eine Menge Themen! Um einen Überblick über alles zu bekommen, was wir aufgenommen haben, wirf einen Blick auf das Inhaltsverzeichnis.

Was zu erwarten ist

Dies ist kein Programmierbuch und auch keine Anleitung für ein bestimmtes Programm. Erwarte also keine zeilenweisen Code-Erklärungen oder Schritt-für-Schritt-Anleitungen zur Verwendung bestimmter Software. Stattdessen lernst du, wie du allgemeine Frameworks anwenden kannst, um Probleme mit den Tools zu lösen, die für die jeweilige Aufgabe am besten geeignet sind.

Das heißt, dieses Thema profitiert sehr von greifbaren, interaktiven Beispielen, die erforscht, angepasst und erweitert werden können. Im Laufe des Buches werden wir alle möglichen Artefakte zur Verfügung stellen, die du erforschen kannst - von Git-Repositories über kostenlose Online-Datensätze bis hin zu Beispiel-Trainings-Pipelines.

Viele von ihnen werden in Edge Impulse gehostet, einem Engineering-Tool für die Entwicklung von KI-Anwendungen.¹ Es basiert auf Open-Source-Technologien und bewährten Methoden, so dass du die Prinzipien auch dann verstehen kannst, wenn du selbst auf einer anderen Plattform arbeitest. Die Autoren des Buches sind beide große Fans von Edge Impulse - aber sie könnten voreingenommen sein, da sie zu dem Team gehören, das es entwickelt hat!

Hinweis

Um die Übertragbarkeit zu gewährleisten, können alle Artefakte der maschinellen Lernpipeline in offenen Formaten aus Edge Impulse exportiert werden, einschließlich der Datensätze, der maschinellen Lernmodelle und der C++-Implementierungen aller Signalverarbeitungscodes.

Was du bereits wissen musst

In diesem Buch geht es um die Entwicklung von Software, die auf Kanten-Geräten läuft. Daher ist eine gewisse Vertrautheit mit den High-Level-Konzepten der Embedded-Entwicklung hilfreich. Dies kann sowohl auf ressourcenbeschränkten Geräten wie Mikrocontrollern oder digitalen Signalprozessoren (DSPs) als auch auf Allzweckgeräten wie eingebetteten Linux-Computern geschehen.

Wenn du also gerade erst mit eingebetteter Software anfängst, solltest du keine Probleme haben, mitzuhalten! Wir werden die Dinge einfach halten und neue Themen einführen, sobald sieauftauchen.

Darüber hinaus wird kein besonderes Wissen vorausgesetzt. Da das Ziel dieses Buches darin besteht, einen praktischen Wegweiser für einen ganzen Bereich der Technik zu bieten, werden wir viele Themen auf hohem Niveau behandeln. Wenn du tiefer in die Materie einsteigen möchtest - von den Grundlagen des maschinellen Lernens bis hin zu den Grundlagen des ML-Anwendungsdesigns -, findest du hier viele Ressourcen, die wir bei unseremeigenen Lernen als nützlich empfunden haben.

Verantwortungsvolle, ethische und wirksame KI

Das Wichtigste bei der Entwicklung jeder Art von Anwendung ist es, sicherzustellen, dass sie in der realen Welt korrekt funktioniert. Leider sind KI-Anwendungen besonders anfällig für eine Reihe von Problemen, die dazu führen, dass sie scheinbar gut funktionieren, in Wirklichkeit aber fehlschlagen - oft auf sehr schädliche Weise.

Diese Art von Problemen zu vermeiden, wird ein zentrales Thema - wenn nicht sogar das zentrale Thema - dieses Buches sein. Da die moderne KI-Entwicklung ein iterativer Prozess ist, reicht es nicht aus, dein System am Ende des Workflows zu testen, um zu sehen, ob es funktioniert. Stattdessen musst du bei jedem Schritt über die möglichen Fallstricke nachdenken. Du musst verstehen, wo die Risiken liegen, deine Zwischenergebnisse kritisch prüfen und fundierte Entscheidungen treffen, die die Bedürfnisse deiner Stakeholder berücksichtigen.

Im Laufe des Buches werden wir ein starkes Rahmenwerk vorstellen, das dir helfen wird, die Dinge zu verstehen, zu argumentieren, die Leistung zu messen und Entscheidungen zu treffen, die bei der Entwicklung von KI-Anwendungen schiefgehen können. Es wird die Grundlage für unseren gesamten Entwicklungsprozess sein und die Art und Weise prägen, wie wir unsere Anwendungen gestalten.

Dieser Prozess beginnt bereits am Anfang eines Projekts. Um effektive Anwendungen zu entwickeln, ist es wichtig zu verstehen, dass es bestimmte Anwendungsfälle gibt, für die unser derzeitiger Ansatz für künstliche Intelligenz einfach nicht geeignet ist. In vielen Situationen überwiegt das Risiko, Schaden anzurichten - physisch, finanziell oder gesellschaftlich - den potenziellen Nutzen des Einsatzes von KI. In diesem Buch lernst du, wie du diese Risiken erkennen und bei der Prüfung der Machbarkeit eines Projekts berücksichtigen kannst.

Als Fachexperten tragen wir die Verantwortung dafür, dass die von uns entwickelte Technologie richtig eingesetzt wird. Niemand sonst ist besser in der Lage, diese Arbeit zu erledigen, also liegt es an uns, sie gut zu machen. Dieses Buch hilft dir, die richtigen Entscheidungen zu treffen und Anwendungen zu entwickeln, die gut funktionieren, keinen Schaden anrichten und der ganzen Welt zugute kommen.

Weitere Ressourcen

Ein Buch, das den gesamten Bereich der eingebetteten KI abdeckt, von der Low-Level-Implementierung bis hin zu High-Level-Designmustern, hätte die Größe eines ganzen Bücherregals! Anstatt zu versuchen, alles in einen Band zu quetschen, bietet das Buch, das du gerade liest, eine detaillierte, aber übersichtliche Roadmap des gesamten Bereichs.

Um die Details zu vertiefen, die für dein spezielles Projekt wichtig sind, empfiehlt "Learning Edge AI Skills" viele weitere Ressourcen.

Ausreichend

Die Autorinnen und Autoren würden sich freuen, von dir zu hören; melde dich unter [e-mail].

In diesem Buch verwendete Konventionen

In diesem Buch werden die folgenden typografischen Konventionen verwendet:

Kursiv

Weist auf neue Begriffe, URLs, E-Mail-Adressen, Dateinamen und Dateierweiterungen hin.

Constant width

Wird für Programmlistings sowie innerhalb von Absätzen verwendet, um auf Programmelemente wie Variablen- oder Funktionsnamen, Datenbanken, Datentypen, Umgebungsvariablen, Anweisungen und Schlüsselwörter hinzuweisen.

Constant width bold

Zeigt Befehle oder anderen Text an, der vom Benutzer wortwörtlich eingetippt werden sollte.

Constant width italic

Zeigt Text an, der durch vom Benutzer eingegebene Werte oder durch kontextabhängige Werte ersetzt werden soll.

Tipp

Dieses Element steht für einen Tipp oder eine Anregung.

Hinweis

Dieses Element steht für einen allgemeinen Hinweis.

Warnung

Dieses Element weist auf eine Warnung oder einen Warnhinweis hin.

Code-Beispiele verwenden

Zusätzliches Material (Code-Beispiele, Übungen usw.) steht unter https://github.com/ai-at-the-edge zum Download bereit .

Wenn du eine technische Frage oder ein Problem mit den Codebeispielen hast, sende bitte eine E-Mail an [e-mail].

Dieses Buch soll dir helfen, deine Arbeit zu erledigen. Wenn in diesem Buch Beispielcode angeboten wird, darfst du ihn in deinen Programmen und deiner Dokumentation verwenden. Du musst uns nicht um Erlaubnis fragen, es sei denn, du reproduzierst einen großen Teil des Codes. Wenn du zum Beispiel ein Programm schreibst, das mehrere Teile des Codes aus diesem Buch verwendet, brauchst du keine Erlaubnis. Der Verkauf oder die Verbreitung von Beispielen aus O'Reilly-Büchern erfordert jedoch eine Genehmigung. Die Beantwortung einer Frage mit einem Zitat aus diesem Buch und einem Beispielcode erfordert keine Genehmigung. Wenn du einen großen Teil des Beispielcodes aus diesem Buch in die Dokumentation deines Produkts aufnimmst, ist eine Genehmigung erforderlich.

Wir freuen uns über eine Namensnennung, verlangen sie aber in der Regel nicht. Eine Quellenangabe umfasst normalerweise den Titel, den Autor, den Verlag und die ISBN. Ein Beispiel: "AI at the Edge " von Daniel Situnayake und Jenny Plunkett (O'Reilly). Copyright 2023 Daniel Situnayake und Jenny Plunkett, 978-1-098-12020-7."

Wenn du der Meinung bist, dass deine Verwendung von Codebeispielen nicht unter die Fair-Use-Regelung oder die oben genannte Erlaubnis fällt, kannst du uns gerne unter [e-mail] kontaktieren .

O'Reilly Online Learning

Hinweis

Seit mehr als 40 Jahren bietet O'Reilly Media Schulungen, Wissen und Einblicke in Technologie und Wirtschaft, um Unternehmen zum Erfolg zu verhelfen.

Unser einzigartiges Netzwerk von Experten und Innovatoren teilt sein Wissen und seine Erfahrung durch Bücher, Artikel und unsere Online-Lernplattform. Die Online-Lernplattform von O'Reilly bietet dir On-Demand-Zugang zu Live-Trainingskursen, ausführlichen Lernpfaden, interaktiven Programmierumgebungen und einer umfangreichen Text- und Videosammlung von O'Reilly und über 200 anderen Verlagen. Weitere Informationen erhältst du unter http://oreilly.com.

Wie du uns kontaktierst

Bitte richte Kommentare und Fragen zu diesem Buch an den Verlag:

• O'Reilly Media, Inc.
• 1005 Gravenstein Highway Nord
• Sebastopol, CA 95472
• 800-998-9938 (in den Vereinigten Staaten oder Kanada)
• 707-829-0515 (international oder lokal)
• 707-829-0104 (Fax)

Wir haben eine Webseite für dieses Buch, auf der wir Errata, Beispiele und zusätzliche Informationen auflisten. Du kannst diese Seite unter https://oreil.ly/ai-at-the-edge aufrufen .

Schreib eine E-Mail an [e-mail], um Kommentare oder technische Fragen zu diesem Buch zu stellen.

Neuigkeiten und Informationen über unsere Bücher und Kurse findest du unter https://oreilly.com.

Du findest uns auf LinkedIn: https://linkedin.com/company/oreilly-media.

Folge uns auf Twitter: https://twitter.com/oreillymedia.

Sieh uns auf YouTube: https://youtube.com/oreillymedia.

Danksagungen

Dieses Buch wäre nicht möglich gewesen ohne die harte Arbeit und die Unterstützung einer großen Anzahl von Menschen, denen wir sehr dankbar sind.

Wir haben die Ehre, ein Vorwort von dem einzigartigen Pete Warden zu bekommen, der nicht nur ein visionärer Technologe ist, der einen großen Teil des Verdienstes für die Einführung dieses Bereichs verdient, sondern auch ein wunderbarer Mensch und ein großartiger Freund. Vielen Dank für deine Unterstützung, Pete!

Wir sind Wiebke (Toussaint) Hutiri sehr dankbar, dass sie den Inhalt dieses Buches über das übliche Maß hinaus mitgestaltet hat und eine fantastische Einführung zu "Responsible Design and AI Ethics" beigesteuert hat. Du bist ein Star auf deinem Gebiet.

Wir sind unserem unglaublichen Gremium von technischen Prüfern und Beratern zu Dank verpflichtet, deren Weisheit und Einsicht einen so großen Einfluss auf dieses Buch hatte. Ihre Namen sind Alex Elium, Aurélien Geron, Carlos Roberto Lacerda, David J. Groom, Elecia White, Fran Baker, Jen Fox, Leonardo Cavagnis, Mat Kelcey, Pete Warden, Vijay Janapa Reddi und Wiebke (Toussaint) Hutiri. Ein weiterer Dank geht an Benjamin Cabé, der uns erlaubt hat, sein Projekt einer künstlichen Nase vorzustellen. Für eventuelle Ungenauigkeiten sind ausschließlich die Autoren verantwortlich.

Wir möchten uns auch bei dem großartigen Team von O'Reilly bedanken, insbesondere bei Angela Rufino, die uns mit viel Verständnis und Sorgfalt durch den Schreibprozess geführt hat. Ein großer Dank geht an Elizabeth Faerm, Kristen Brown, Mike Loukides, Nicole Taché und Rebecca Novack.

Dieses Buch gäbe es nicht ohne die Unterstützung unseres Teams bei Edge Impulse, einer Starbesetzung von absoluten Helden. Unser besonderer Dank gilt den Gründern Zach Shelby und Jan Jongboom, die an unsere Vision für dieses Buch geglaubt haben, uns bei der Umsetzung unterstützt und einen Raum geschaffen haben, in dem sich Ideen entfalten können. Herzliche Grüße an das gesamte Team, zu dem zum Zeitpunkt der Erstellung dieses Artikels folgende Personen gehören: Adam Benzion, Alessandro Grande, Alex Elium, Amir Sherman, Arjan Kamphuis, Artie Beavis, Arun Rajasekaran, Ashvin Roharia, Aurelien Lequertier, Carl Ward, Clinton Oduor, David Schwarz, David Tischler, Dimi Tomov, Dmitry Maslov, Emile Bosch, Eoin Jordan, Evan Rust,Fernando Jiménez Moreno, Francesco Varani, Jed Huang, Jim Edson, Jim van der Voort, Jodie Lane, John Pura, Jorge Silva, Joshua Buck, Juliette Okel, Keelin Murphy, Kirtana Moorthy, Louis Moreau, Louise Paul, Maggi Yang, Mat Kelcey, Mateusz Majchrzycki, Mathijs Baaijens, Mihajlo Raljic, Mike Senese, Mikey Beavis, MJ Lee, Nabil Koroghli, Nick Famighetti, Omar Shrit, Othman Mekhannene, Paige Holvik, Raul James, Raul Vergara, RJ Vissers, Ross Lowe, Sally Atkinson, Saniea Akhtar, Sara Olsson, Sergi Mansilla, Shams Mansoor, Shawn Hanscom, Shawn Hymel, Sheena Patel, Tyler Hoyle, Vojislav Milivojevic, William DeLey, Yan Li, Yana Vibe, und Zin Kyaw. Ihr macht Magie möglich.

Jenny möchte ihrer texanischen Familie und ihren Freunden dafür danken, dass sie sie über die Jahre hinweg so toll unterstützt haben, und ihren Katzen Blue Gene und Beatrice dafür, dass sie die besten Kollegen sind. Besonders danken möchte sie ihrem Vater Michael Plunkett, der sie ermutigt hat, Elektrotechnik an der University of Texas in Austin zu studieren, und der ihre lebenslange Neugier auf neue Technologien geweckt hat.

Dan möchte sich bei seiner Familie und seinen Freunden bedanken, die ihn bei jedem großen Abenteuer unterstützt haben. Er ist Lauren Ward sehr dankbar für ihre Liebe und Partnerschaft auf all unseren Reisen. Und er dankt Minicat für ihre beruhigende katzenhafte Präsenz - und für die Erlaubnis, ihre Fotos in diesem Buch zu verwenden.

¹ Edge Impulse wird in der wissenschaftlichen Arbeit "Edge Impulse: An MLOps Platform for Tiny Machine Learning" (S. Hymel et. al, 2022) beschrieben.