Briefe aus dem Silicon Valley Herbst 2023 – eine Reise in den KI-Brodelpott
LänderbriefeTrends und Technologien aus dem Tech-Tal
KI um jeden Preis oder maßvolle Regulierung? Das Silicon Valley ist sich uneins, was nicht nur der Konflikt um den OpenAI-CEO Sam Altman in den vergangenen Wochen zeigte. Wie es genau vor Ort aussieht, klären wir persönlich auf – bei einer Delegationsreise ins Silicon Valley. Jetzt unseren Länderbrief lesen und mitreisen!
Direkt aus den USA meldet sich Tim Ole Jöhnk, Direktor des Northern Germany Innovation Office (NGIO), mit Themen, die das Silicon Valley in den vergangenen Tagen und Wochen heiß beschäftigten. Sie wollen unsere Länderbriefe regelmäßig als Newsletter erhalten? Melden Sie sich hier an.
Themen im Herbst 2023:
OpenAI und die Frage danach, wie wir mit KIs umgehen sollen
Wenn es ums Drama geht, steht das Silicon Valley vielen Netflix-Shows in nichts nach. Das Hin und Her rund um das Künstliche-Intelligenz-Unternehmen OpenAI (die ChatGPT-Macher:innen) und dessen CEO Sam Altman hat auch die hiesigen Nachrichtenportale tagelang mitgerissen. (-> nachlesen).
Wir wollen uns auf die Suche nach den Ursachen machen, die für das Chaos sorgten – und die ein grundsätzliches Schisma rund um die KI offenbaren, das auch das Silicon Valley noch nicht gelöst hat und vielleicht auch nicht lösen kann.
OpenAI wurde als Forschungsunternehmen mit dem Ziel gegründet, eine AGI (artificial general intelligence = starke KI) zu erschaffen, die ungefährlich ist und dem Wohl der Menschheit dient. Das Unternehmen ist als eine Charitable Company, also eine Wohltätigkeitsorganisation aufgebaut, die keine kommerziellen Gewinne machen kann. Im Zuge der ersten Aktivitäten ab 2015 stellte sich aber bald heraus, dass KI-Entwicklung teuer ist und die Spenden nicht ausreichten, um die eigene Vision zu verwirklichen. Aus diesem Grund gründete das Unternehmen eine profitorientierte Tochter, in die wiederum Microsoft als Minderheitseigner einstieg und seitdem mit rund 13 Milliarden Dollar an Investitionen ausstattete. Trotz dieser großen Menge an Geld blieb die Entscheidungsgewalt über das Gesamtunternehmen jedoch ganz beim Vorstand des NonProfit-Teils von OpenAI.
Die Trennung zwischen Profit- und Non-Profit-Teil brachte aber wohl in den vergangenen Monaten (und vielleicht auch Jahren) immer wieder Konflikte hervor. Lange Zeit hielt OpenAI ihre neusten Sprachmodell-Forschungsergebnisse geheim, da sie um negative Anwendungen fürchtete. Der kometenhafte Aufstieg im vergangenen Jahr von ChatGPT und dessen Anwendungen erhöhten aber wiederum im Profitteil von OpenAI den Druck und Wunsch nach neuen, besseren Modellen und stetigen Optimierungen (auch um der Konkurrenz weiterhin voraus zu sein). Ein klassisches Dilemma: Profitstreben und der Wunsch nach schneller Kommerzialisierung auf der einen Seite und wissenschaftlicher Ansporn gepaart mit ethischen Bedenken auf der anderen Seite.
Welche Seite ist stärker und setzt sich durch? Was ist der der eigentliche Zweck von OpenAI? Diese Fragen offenbarten sich mit dem kürzlichen Kampf um die Unternehmensspitze. Auch, wenn Sam Altmann jetzt wieder an alter Position als CEO von OpenAI steht, bleibt die Frage, in welche Richtung das Unternehmen künftig steuert und wie unabhängig es sich tatsächlich von Profitinteressen der Anteilseigner:innen machen kann. Schließlich bot Microsoft nach dem später wieder rückgängig gemachten Altman-Exodus zwischenzeitlich an, den CEO sowie alle wechselwilligen Mitarbeitenden kurzerhand selbst einzustellen.
Das Dilemma von OpenAI ist dabei nicht einzigartig in der Branche. Schon länger gibt es Diskussionen um den Konflikt von Technokratie und Techno-Kapitalismus (genügend Geld und hohe Geschwindigkeit ganz nach dem Motto „move fast and break things“) auf der einen Seite und einem nachhaltigeren, regulierten Ansatz auf der anderen. Fortschritt um des Fortschritts willen (“we do what we must, because we can”) steht einer Regulierung und Mäßigung gegenüber, in der die Angst im Hinterkopf mitschwingt, von rechts und links überholt zu werden, wenn andere ohne diese Bedenken weitermachen. Die KI entwickelt sich dabei so rasant, dass kaum jemand mithalten und die negativen Konsequenzen absehen kann. Immer wieder warnen Größen aus der Tech-Welt vor den möglichen Gefahren zu schnellen Fortschritts.
Ein Konflikt, der in einer Zeit kommt, wo Rufe nach Kontrolle und regulatorischen Rahmenbedingungen („AI Governance“) – die es schon länger gibt – in konkrete Maßnahmen gegossen werden und damit zeigen, wie sehr die Technologie in die gesellschaftliche Wahrnehmung gerückt ist. So unterzeichneten 18 Staaten im November 2023 eine Vereinbarung über einheitliche KI-Richtlinien, welche die Technologie regulieren sollen, wenngleich auch rechtlich nicht bindend. Die EU geht sogar weiter und hat mit der KI-Verordnung im Juni einen Rechtsrahmen geschaffen, der bis 2026 in Kraft treten soll. Die Gesellschaft sieht ein Bedürfnis nach Regulation, dem sich auch viele im Silicon Valley anschließen würden.
Anthropic – der Gegenentwurf zum Gegenentwurf
Ein direkter Konkurrent von OpenAI steht exemplarisch für diese reguliertere Seite: Anthropic. Das KI-Unternehmen wurde von ehemaligen OpenAI-Angestellten 2021 gegründet. Wie OpenAI ist es auch selbst eine Non-Profit-Organisation (wenn auch in anderer Rechtsform). Auch der Anspruch, sichere, verlässliche und verständliche KI-Systeme zu bauen, ist ähnlich. Das Unternehmen soll künftig von einem Long-Term Benefit Trust geführt werden, einem Vorstand aus Mitgliedern, die keine finanziellen Interessen am Unternehmen haben und deren einziges Ziel es ist, sicherzustellen, dass die KI-Systeme langfristig dem Wohl der Menschheit dienen.
Interessanter als die Organisationsstruktur von Anthropic ist jedoch die KI „Claude“ des Unternehmens selbst. Denn diese verlässt sich nicht auf menschliche Einschätzung, was gut, sicher und im Interesse der Menschheit ist, sondern auf eine Art Selbstregulierung: Heutige KIs werden vor ihrer Veröffentlichung durch Menschen feingetunt, die sich tausende Antworten der KI auf bestimmte Fragen („Prompts“) ansehen und dann bewerten, ob diese den Richtlinien des Modells entsprechen – also zum Beispiel nicht gegen Menschenrechte verstoßen oder diskriminieren. Claude verlässt sich hingegen auf eine (von Menschen formulierte) KI-Verfassung, anhand dessen es seine eigenen Antworten selbstständig feintunt. Es automatisiert also seinen eigenen Lernprozess und will so Bias ausschließen, also eine Voreingenommenheit, die jedem Menschen irgendwo zu eigen ist – also auch denen, die die KI-Modelle bewerten und regulieren. Ob das am Ende wirklich so klappt oder ähnlich wie die drei berühmten Robotergesetze vom SciFi-Autor Isaac Asimov zu grundsätzlichem Scheitern verurteilt ist, wird sich dabei noch zeigen.
Aber auch Anthropic macht sich damit nicht frei vom grundsätzlichen Dilemma. Das Unternehmen erhielt etwa zwei Milliarden Dollar von Google und vier Milliarden von Amazon. Und auch Anthropic hat – ähnlich wie OpenAI – Herangehensweisen, die nicht ganz mit dem eigenen Unternehmensmotto in Einklang zu stehen scheinen: So kündigten Musikverlage eine Klage gegen das Unternehmen an, das Copyright-Verletzungen gegen Songtexte begangen haben soll.
Auch hier bleibt wohl nur zu sagen: Vertrauen ist gut, Kontrolle ist besser und nötig.
Delegationsreise zur KI ins Silicon Valley im Februar 2024
Wohin geht also die KI-Reise? Wie kann die Technologie zwischen unreguliertem Fortschritt und rechtlichen wie gesellschaftlichen Rahmenbedingungen navigieren? Endet der wilde Westen? Themen, die jetzt diskutiert werden müssen, um uns für die Zukunft aufzustellen.
Sie könnten auch zur Sprache kommen während der Diskussionen, die sich auf der KI-Reise ins Silicon Valley ergeben, die vom 4. bis zum 9. Februar 2024 unter Führung der Bremer Senatorin für Wirtschaft, Häfen und Transformation stattfindet.
Die Delegationsreise fokussiert sich auf KI-Anwendungen für die Bereiche der industriellen Produktion und Fertigung. Auf der sechstägigen Reise stehen neben Besuchen bei den Branchengrößen aus den USA auch Termine mit Technologiezentren deutscher oder europäischer Unternehmen im Silicon Valley und Treffen mit spannenden Start-ups auf der Agenda. Diese ermöglichen einen Einblick in innovative Arbeitsweisen.
Neben Einblicken in KI-Unternehmen, offiziellen Empfängen und Branchentreffen sind zudem Gespräche mit Expertinnen und Experten zum Thema Transformation in der Arbeitswelt geplant. Die Stationen der Reise richten sich nach dem Interesse der Teilnehmenden.
Die vom Northern Germany Innovation Office (NGIO) organisierte Reise ist auf 20 Teilnehmende begrenzt. Aufgrund der Begrenzung werden die Plätze bevorzugt an Teilnehmende aus den Bereichen Fertigung, Produktion sowie IT-Technologien vergeben. Für die Teilnahme am Gesamtprogramm der Unternehmerreise wird eine Organisationspauschale berechnet, von der unter anderem der inländische Transport und die Verpflegung bezahlt werden. Die Kosten für An- und Abreise, Flüge sowie Übernachtungen werden von den Teilnehmenden selbst getragen. Interessierte können sich bis zum Mittwoch, 13. Dezember 2023 per Mail an andreas.gerber@wfb-bremen.de anmelden oder weitere Hintergrund-Informationen erhalten.
Open-Source-KI-Frameworks – wie man mit der KI loslegt
Die rasante Entwicklung der KI in den vergangenen Jahren verdankt sie unter anderem auch einer sehr offenen Community, die Wissen teilt. Vielen Modelle und Tools sind Open Source, also frei verfügbar, kostenlos und in gewissem Rahmen rechtefrei. Das ermöglicht es allen, neues Wissen beizutragen, mit wenigen Handgriffen von großer Vorarbeit zu profitieren und so die Technologie schnell voranzubringen.
Es existieren Datensets, mit denen sich schnell KIs aufzusetzen lassen, ohne selbst Millionen oder Milliarden an Datenpunkten zu sammeln und diese unter Anmietung teurer Cloud-Rechenpower zu trainieren.
Selbst große Konzern wie Google und Meta tragen mit ihren Llama- und BERT-Modellen dazu bei, die Community zu stärken (und profitieren natürlich auch selbst von der Vorarbeit). Interessanterweise sind ChatGPT und Claude nicht frei verfügbar.
Open Source ist dabei nicht nur eine Arbeitserleichterung. Es ermöglicht auch Transparenz und Kontrollierbarkeit – zentrale Pfeiler auf dem Weg zu einem verantwortlichen Umgang mit KI. Und damit ein weiteres gutes Argument, selbst auf Mitarbeit in dieser Community zu setzen.
Heutzutage gibt es eine große Vielzahl an solchen Tools. Wir haben hier einmal die wichtigsten Plattformen in 13 Kategorien aufgelistet (in Klammern die Risikokapitalinvestitionen in Millionen US-Dollar):
- Generative AI LLM Developers/Platforms: TOGETHER (Seed, ~20M) Hugging Face (Series D, ~395M)
- Machine Learning Training Data Curation Snorkel (Series C, ~135M)
- Synthetic Traning Data – Media ZumoLabs (Seed, 150t)
- Synthetic Training Data TONIC (Series B, ~45M) Gretel (Series B, ~68M)
- Vector Databases Chroma (Seed, ~20M) Zilliz (Series B, ~113M)
- Feature Stores & Management KASKADA (Series A, ~10M) FeatureBase (Series A, ~24M)
- Federated Learning Platforms OWKIN (Series B, ~305M)
- LLM Application Management Rasa (Series B, ~40M)
- Algorithmic Auditing & Risk Management Credo ai (Series A, ~18M)
- Model Development & serving OctoML (Series C, ~132M)
- Model Validation & Monitoring Fiddler (Seed, ~45M) Whylabs (Series A, ~14M)
- Hardware-aware AI optimization Run:ai (Series C, ~118M)
- AI Development Platforms: MindsDB (Seed, ~55M Funding) BentoML (Seed, ~9M)
Erfolgsgeschichten
Von Bremen nach San Francisco – was kann man von den Silicon-Valley-Giganten wie Google, Nvidia und Co. für das eigene Geschäft lernen? Dieser Frage sind rund 20 Bremerinnen und Bremer nachgegangen. Und haben nebenher auch eine Fahrt mit dem Robotaxi gewagt.
Mehr erfahrenAb ins Blumenbeet statt in den Müll: Mit den Produkten der Bremer „Scribbling Seeds“ entstehen aus ausgedienten Büro- und Werbematerialien Tomaten, Basilikum oder Sonnenblumen. Ein Weg ins nachhaltigere Büro, ist sich Gründerin Anushree Jain sicher.
Mehr erfahrenBauen ist mehr und mehr zu einem Hindernis-Parcours geworden. Material- und Personalkosten steigen, bau- und umwelttechnische Auflagen nehmen zu. Gleichzeitig sollen zunehmend kompliziertere Projekte möglichst immer schneller realisiert werden. NEVARIS in Bremen bietet der Branche Softwarelösungen, um die Probleme in den Griff zu bekommen.
Mehr erfahren