Open Source, Infrastruktur, Compliance: Was es für die Implementierung von KI braucht
Was brauchts es für die Implementierung von KI im Unternehmen.
In der neuesten Folge von "No Hype KI" bei brutkasten diskutierten Florian Böttcher (Solution Architect, CANCOM Austria), Stephan Kraft (Community Advocate & Business Development OpenShift & Application Services, Red Hat), Natalie Ségur-Cabanac (Policy Lead, Women in AI) und Patrick Ratheiser (Gründer & CEO, Leftshift.One) darüber, was es für die Implementierung von KI im Unternehmen braucht.
Open Source als Treiber für KI-Entwicklung
Open-Source-Technologien bieten Unternehmen weitreichende Möglichkeiten in der KI-Entwicklung. In der Diskussion betont Stephan Kraft, dass Open Source nicht nur eine Frage der Ethik sei, sondern für Startups und KMU essenziell. Transparenz und Zusammenarbeit erleichtern Innovation und senken Einstiegshürden.
Patrick Ratheiser hebt hervor, dass Open Source einen exponentiellen Anstieg von KI-Modellen ermöglicht. Von 5.000 Modellen im Jahr 2021 sind es heute über eine Million Open Source Modelle, die frei Verfügbar sind. Also ein Wachstum von über 10.000 %. Doch nicht immer ist Open Source immer die beste Wahl erklärt Patrick Ratheiser. Unternehmen müssen je nach Anwendungsfall zwischen Open Source, Cloud oder Closed Source abwägen.
In der Infrastruktur spielt Open Source ebenfalls eine wichtige Rolle, so Florian Böttcher. Es bittet die Anforderung für die Infrastruktur. Ohne Open Source würde es das ganze KI Thema nicht geben erklärt Böttcher. Auch Natalie Ségur-Cabanac sieht in Open Source eine "Key Technology", um Diskriminierung zu reduzieren und Vielfalt in der KI-Forschung zu fördern.
Datenstruktur und Compliance: Herausforderungen von Open Source
Eine saubere Datenbasis ist essenziell erklärt Natalie Ségur-Cabanac. Bei Open Source ist besonders wichtig, dass wenn Modelle gekauft bzw. genutzt werden, diese Modelle mit sauberen Daten trainiert wurden. Sie warnt, dass Open Source Systeme oft Unklarheiten schaffen und es für Compliance die Herausforderung dar stellt "Wer ist wofür zuständig?". Unternehmen bieten daher Enterprise-Support für Qualitätssicherung und auch im rechtlichen Sinne. Patrick Ratheiser betrachtet Compliance als einen zentralen Erfolgsfaktor. Es ist entscheidend, dem Kunden garantieren zu können, dass alle Systeme den Vorschriften entsprechen und regelmäßig gewartet werden.
Möchten Unternehmen KI einsetzten, stehen sie vor unterschiedlichen infrastrukturellen Herausforderungen, die vom jeweiligen Anwendungsfall abhängen. Florian Böttcher hebt hervor, dass insbesondere das Training eigener Large Language Models (LLMs) erhebliche infrastrukturelle Anforderungen mit sich bringt. Eine zentrale Herausforderung in Österreich ist der hohe Energieverbrauch und die Wärmeentwicklung beim KI-Training. Aus diesem Grund erfolgen solche Trainings häufig in den nordischen Ländern oder in den USA. "Gerade wenn man viel mit Open Source arbeitet oder in der Forschung tätig ist, benötigt man dennoch die passende Infrastruktur, um zu verstehen, welche Lösungen beim Kunden eingesetzt werden können", erklärt Böttcher. Unternehmen sollten daher zunächst ihren konkreten Use Case und ihre Strategie definieren. Erst dann lässt sich die passende Softwarelösung bestimmen, die wiederum die Anforderungen an die Infrastruktur vorgibt.
Fazit Open Source bietet große Chancen in der KI-Entwicklung, birgt aber auch Herausforderungen in Bezug auf Compliance, Infrastruktur und Datenqualität. Unternehmen sollten eine klare KI-Strategie verfolgen, unterschiedliche Lösungen in Betracht ziehen und auf Kompetenzaufbau setzen. Mehr dazu in der brutkasten-Folge von "No Hype KI".