Startseite Folge 26

Podcast Folge 26

Der Einfluss generativer KI auf die Zukunft von Arbeit und Gesellschaft

mit Jeremiah Stone, SnapLogic und Greg Benson, Universität von San Francisco

Im Finale von Staffel 2 von Automating the Enterprise führt Dayle Hall ein dynamisches Gespräch mit dem Datenwissenschaftler Jeremiah Stone und dem Informatikprofessor Greg Benson. In dieser Folge werden die Geheimnisse der generativen KI gelüftet und ihr transformatives Potenzial in Branchen wie dem Gesundheitswesen und der Wissenschaft erörtert, um die Gegenwart und Zukunft der KI-gestützten Innovation zu beleuchten.

Vollständiges Transkript

Dayle Hall:  

Sie hören gerade den SnapLogic-Podcast zur Automatisierung des Unternehmens. Dieser Podcast soll allen Unternehmen wertvolle Einblicke und Best Practices geben, wie sie ihr Unternehmen integrieren, automatisieren und transformieren können. Ich bin Ihr Gastgeber, Dayle Hall, der CMO von SnapLogic.

Dies ist die letzte Folge unserer Staffel 2. Bis jetzt haben wir eine Menge verschiedener Themen aus dem gesamten Unternehmen behandelt. Wir haben uns mit KI-Ethik beschäftigt, mit der Navigation von KI in der Prozessautomatisierung im Gesundheitswesen. Aber heute haben wir zwei ganz besondere Gäste. Und ich bin stolz darauf, sie zum Abschluss des Podcasts bei uns zu haben. Wenn Sie das Ende der letzten Staffel verfolgt haben, haben Sie sicher gehört, wie ich vor allem mit unserem CTO Jeremiah Stone gesprochen habe. Jeremiah ist also wieder bei uns. Jeremiah, vielen Dank, dass Sie am Ende der Saison dabei sind. Wir halten Sie bis zum Ende technisch, nicht die Saison aus dem Park.

Jeremiah Stone:  

Nun, ich bin ein treuer Zuhörer, und es macht immer wieder Spaß, zu Ihnen zu kommen und mit Ihnen zu sprechen.

Dayle Hall:  

Großartig. Und dann haben wir heute einen weiteren besonderen Gast, nämlich den Chefwissenschaftler von SnapLogic und Professor für Informatik an der Universität von San Francisco. Herzlich willkommen, Dr. Greg Benson.

Greg Benson: 

Schön, hier zu sein, Dayle. Ich freue mich, Teil des Podcasts zu sein. Ich bin auch ein regelmäßiger Hörer.

Dayle Hall:

Ja, das stimmt. Nun, ich weiß das zu schätzen. Ich bin mir sicher, dass Sie das nicht nur sagen, damit ich mich gut fühle und der Gastgeber ein gutes Gefühl hat, wenn seine Gäste wirklich zuhören.

Wie ich schon sagte, hatten wir eine Menge verschiedener Themen. Wir haben einige unserer Kunden eingeladen. Wir hatten Vordenker aus gemeinnützigen Organisationen. Wir hatten Vordenker aus Agenturen und wie sich die Unternehmenslandschaft verändert, aber natürlich auch einige der Dinge, an denen SnapLogic arbeitet und einige der Dinge, die wir auf dem Markt sehen. Generative KI ist überall. Und ich weiß, dass wir am Ende des Podcasts dazu kommen werden, weil ich speziell darauf eingehen möchte, was SnapLogic tut, aber das Konzept der generativen KI und dann das, worüber wir bei SnapLogic sprechen, nämlich die generative Integration. Wir werden also in einer Sekunde auf diesen zweiten Teil eingehen.

Aber ich möchte mit einer allgemeinen Frage dazu beginnen, was Sie in der Branche beobachten. Jeremiah, fangen wir mit Ihnen an. Wir erleben also diesen ganzen Hype, ich sage mal Hype, und Aufregung, was in beiderlei Hinsicht gut ist, aber rund um generative KI. Warum, glauben Sie, hat sich die Branche so schnell darauf gestürzt, als hätte sie nur darauf gewartet, dass etwas passiert, und jetzt spricht jeder über generative KI? Was sehen Sie in der Branche? Und warum hat man das Gefühl, dass dieses Thema viel mehr Schwung hat als einige der anderen KI-Diskussionen, die wir bis jetzt hatten?

Jeremiah Stone:

Ich glaube, es kommt auf das Engagement an, Dayle. Wenn ich an die letzten 20, 25 Jahre der Technologie zurückdenke und diese Art von Begeisterung sehe, dann war das letzte Mal, an das ich mich erinnern kann, dieses Maß an Engagement, an Begeisterung, als die Menschen in Schlangen um Blocks herum warteten, um die ersten iPhones zu bekommen, weil es eine grundlegend andere Sache war, die jeder anfassen, fühlen und neue Fertigkeiten, neue Fähigkeiten, neue Kräfte gewinnen konnte.

Und ich denke, dass die Fähigkeiten, die mit der generativen KI aufgedeckt wurden, denjenigen von uns in diesem Bereich schon seit Jahren bekannt sind, seit die transformative Arbeit - kein Wortspiel beabsichtigt - in der Transformer-Architektur mit den Modellen BERT oder D5 oder den frühen GPT-Modellen herauskam. Aber die Einführung von ChatGPT war wirklich etwas, das so viele Menschen über alle Altersgruppen, Berufe und Regionen hinweg erleben konnten, und ich denke, dass die Macht und die Möglichkeiten zu einer Explosion der Vorstellungskraft geführt haben.

Ich glaube, das ist die eigentliche Triebfeder, das ist der neue Treibstoff im Tank des Optimismus für die Möglichkeiten, mit denen die Technologie die menschliche Lebensqualität grundlegend verbessern kann. Und das führt dann natürlich zu der Frage: Wie könnte das meinem Unternehmen helfen? Und in Anbetracht des Umfelds, in dem wir uns derzeit befinden, mit der Volatilität und den Herausforderungen im makroökonomischen Umfeld, den hohen Zinssätzen, den stillen Kündigungen und so weiter, ist dies wirklich ein Bereich und ein Raum, in dem Optimismus vorherrscht. Die Menschen haben es tatsächlich gesehen, gefühlt, eine andere und positive Realität erlebt. Und der Abstand zwischen der Bitte an ChatGPT, einem beim Schreiben einer E-Mail zu helfen, die auf ein paar Aufzählungspunkten basiert, kann sehr leicht in viele berufliche Bereiche übertragen werden. Ich denke also, es ist einfach die Auseinandersetzung mit der Technologie und die Fähigkeit, davon zu träumen, was damit möglich sein könnte.

Dayle Hall:

Als ich zu SnapLogic kam, erzählte mir CEO Gaurav Dhillon, der offensichtlich ein Branchenkenner ist, der OG der Integration, wie wir ihn nennen, immer, und ich weiß, dass er immer noch darüber spricht, dass wir uns auf einen Punkt zubewegen, an dem Sie in der Lage sein werden, mit Ihrer Maschine zu sprechen. Wir können es eintippen, Sie werden sagen können: Hey, SnapLogic, verbinde mein Unternehmen, wie in Star Trek. Als ich das vor drei Jahren zum ersten Mal hörte, war das sehr inspirierend. Das wäre wirklich cool. Ich habe das Gefühl, dass wir jetzt so nah dran sind, wie wir es eigentlich nie sein könnten, und zwar wegen einiger dieser Dinge, die in letzter Zeit passiert sind. Es ist schön, Gaurav lächeln zu sehen, wenn Sie durch das Büro gehen, wenn wir über den Start von SnapGPT sprechen, denn es fühlt sich so an, als würde etwas davon wahr werden, meinen Sie nicht auch?

Jeremiah Stone:

Das tue ich. Und Sie haben ein wirklich gutes Argument. Wenn wir eine Technologie sehen, die zu unseren Lebzeiten spekulative Fiktion war, Science-Fiction, und plötzlich ist sie da, dann hat das Auswirkungen und ist aufregend, einfach grundlegend. Und wir haben das mit den Sprachassistenten gesehen. Und jetzt sehen wir, wie sich diese Fähigkeit weiter verbessert und beschleunigt, und das ist ungeheuer aufregend. Ich denke, es ist der Übergang von "Moment mal, ich dachte, das wäre nur ein Film-Fernseh-Ding" zu "Das ist tatsächlich ein Ding". Ich kann es anfassen, und es ist echt, gib mir mehr davon.

Dayle Hall: 

Ich wollte auch immer ein Trekkie sein. Ich war ein Trekkie. Ich wollte immer in der Serie mitspielen.

Okay, Greg, lassen Sie mich Ihnen eine ähnliche Frage stellen. Aber aus Ihrer Sicht sind Sie offensichtlich etwas mehr mit der technischen Detailarbeit beschäftigt. Und da Sie an der Universität von San Francisco arbeiten, sehen Sie wahrscheinlich auch einen gewissen Zustrom an Informationen darüber, was die Studenten erleben werden und wie sie es nutzen. Die Frage geht also auch an Sie, aber was sehen Sie und warum glauben Sie, dass sich diese Begeisterung mehr auf die Details, die Datenwissenschaft und die technischen Gemeinschaften überträgt, wie es in der akademischen Welt der Fall ist? Oder gibt es andere Bedenken? Oder wie reagieren sie darauf?

Greg Benson: 

Ja. Ich meine, es gibt viel zu sagen, dass sie in diesem Moment einen Schritt zurückgehen, wie im Moment des iPhones oder der Google-Suche. Ich denke, dass der erneute Optimismus, den diese Technologie allen möglichen Gemeinschaften, der Geschäftswelt, der Bildungsgemeinschaft gebracht hat, eine großartige Zeit für die Technologiebranche ist.

Die Schrittfunktion ist also interessant. Ich möchte sie folgendermaßen beschreiben: Denken Sie daran, was Sie vor sechs Monaten getan haben, wenn Sie etwas lernen wollten. Vor sechs Monaten haben Sie sich Empfehlungen geholt, Sie haben bei Google gesucht und Informationen gesammelt. Und jetzt kann man wirklich unglaublich gezielte Fragen stellen und erhält unglaublich detaillierte Antworten. Das hat - um auf Ihre Bemerkung zur Bildung zurückzukommen - den Prozess des Erlernens neuer Sprachen für mich völlig verändert.

Ich kann sagen: "Hey, ich möchte die Programmiersprache Go lernen. Ich sage also: Hey, schreibe dieses Programm, das Informationen aus JSON auf eine bestimmte Weise extrahiert. Und es wird das Programm für mich schreiben. Okay, ich kann es ausführen, ich kann es testen. Aber dann kann ich sagen, hey, weißt du was, ich lerne diese Sprache, kannst du mir dieses Programm Zeile für Zeile erklären? Und das wird es tun. Und dann kann ich sagen, ich verstehe diese bestimmte Sache in der Go-Sprache nicht, kannst du mir das erklären? Denken Sie daran, dass ich mit diesen anderen Sprachen vertraut bin. Und es wird mir in den Begriffen der anderen Sprachen erklären, was dieses spezielle Konzept in Go ist.

Und der Grund, warum ich Ihnen das aus der Welt der Bildung erzähle, ist, dass dies die Art und Weise, wie Studenten lernen werden, verändern wird, und zwar nicht nur in der Informatik, sondern in allen möglichen Bereichen. Ich glaube, wir erleben in der Industrie die gleiche Art von Schock und Ehrfurcht wie in der Hochschulbildung: Wie werden wir das annehmen? Wenn Sie das schon mal gehört haben: ChatGPT ist das meistdiskutierte Programm, das noch niemand benutzt hat. Viele Leute haben viele Meinungen zu ChatGPT. Und Sie stellen eine Frage wie: Haben Sie es benutzt? Nein, aber ich habe darüber gelesen, richtig? Es ist wirklich bemerkenswert, wenn man es benutzt, wenn man es sinnvoll für etwas einsetzt, was man tut, wie in meinem Fall, Informatik zu unterrichten oder Software zu entwickeln.

Um auf Ihren Punkt in der Bildung einzugehen - die Studien zeigen bereits, dass die Beschäftigung mit dieser Technologie die Geschwindigkeit, mit der Studenten das Programmieren lernen, verändern wird. In Harvard wird für das nächste Semester ein ganzer Chatbot auf LLM-Basis speziell für den CS1-Kurs entwickelt, um die Rolle eines Lehrers zu ergänzen oder vielleicht sogar zu ersetzen, der die Studenten durch den Lernprozess führt. Ja, genau wie wir es bei der Unternehmenssoftware sehen, erlebt die Bildung mit dieser Technologie einen Umbruch.

Dayle Hall:  

Ja. Ich sage meinem Team immer, dass ich als Fachmann in Zeiten arbeiten möchte, in denen ich herausgefordert werde, ganz gleich, ob es sich um etwas auf dem Markt, die Konkurrenz, das Produkt oder die Marktkräfte handelt. Ich möchte nicht so sehr gefordert werden, dass ich so gestresst bin, dass ich mir die Haare ausreiße. Aber wenn man die Möglichkeit hat, diese Dinge zu tun, die auf einen zukommen, wie z. B. Produkte, Wettbewerbskräfte oder was auch immer, und man sich damit auseinandersetzen muss, dann finde ich das spannend. Und angesichts dessen, was wir im Bereich der generativen KI sehen, denke ich, dass wir wahrscheinlich gerade an der Schwelle stehen.

Und das ist meine nächste Frage an Sie beide. Und ich weiß, Sie sind keine Wahrsager. Aber wo stehen wir auf der KI-Reise? Denn ich habe das Gefühl, dass wir, zumindest aus der Marketingperspektive von Technologieunternehmen, schon lange über KI sprechen. Wir haben diese KI-Wäsche vor zwei oder drei Jahren durchgemacht. Aber unterscheidet sich die generative KI von der KI-Wäsche? Ist es ein weiterer Schritt auf der Reise? Für die Zuhörer da draußen: Wo ordnen Sie generative KI auf dieser KI-Reise ein? Und sind wir schon ein Viertel des Weges gegangen? Ich weiß, es ist schwer zu sagen, aber was würden Sie sagen, wo wir heute stehen?

Greg Benson: 

Das ist natürlich schwer zu sagen. In einigen meiner Kreise herrschte, als dies im letzten Herbst aufkam, das Gefühl, dass wir einerseits diese riesige Schrittfunktion haben. Die Frage ist, wie viel besser diese großen Sprachmodelle in ihren logischen, kreativen und generativen Fähigkeiten für ein breites Spektrum von Aufgaben werden. Es ist wirklich erstaunlich, wie sie Zusammenfassungen erstellen und Code und Kunst und viele andere Dinge generieren. Die Frage ist, wie viel besser kann es in einem Jahr sein?

Meiner Meinung nach wird die Technologie in dem Maße besser, wie wir sie auf ganz bestimmte Problembereiche ausrichten - und Sie können jeden Tag darüber lesen, dass Menschen dies für die medizinische Diagnose und die Materialwissenschaft tun, oder? Ich denke, wenn wir sie auf diese spezifischen Bereiche ausrichten, wie wir es bei SnapLogic für die Datenintegration tun, wird sie bemerkenswert besser werden. Denn der nächste Schritt, von dem alle sprechen, ist die künstliche allgemeine Intelligenz (AGI), also die Idee von etwas, das über das hinausgeht, was wir heute sehen. Und das ist ein sehr umstrittenes Konzept. Sind wir dem schon einen Schritt näher gekommen oder nicht? Aber ich würde sagen, dass wir mit dieser Technologie in bestimmten Bereichen Fortschritte erzielen werden. Für mich stellt sich die Frage, wie viel besser die grundlegende Technologie in Bezug auf Schlussfolgerungen, Generierung und Synthese werden kann. Das bleibt meiner Meinung nach abzuwarten.

Dayle Hall:

Jeremiah?

Jeremiah Stone:  

Ich denke, die Frage, wo wir uns auf der Reise befinden, lässt sich aus der Sicht eines Hörers auf mein Leben übertragen, oder? Denn es gibt eine Menge - und ich gehe zurück zu meinem Handy-Beispiel. Ich erinnere mich genau an eine Zeit, in der ich ein Klapphandy hatte, und es war großartig. Und ich habe es als Telefon benutzt. Ich konnte damit simsen, indem ich die Nummerntaste drückte, um zum nächsten Punkt zu gelangen. Dann hatte ich ein Blackberry, und das war wie eine schrittweise Verbesserung, weil es eine vollständige Tastatur und so weiter hatte. Dann hörte ich das ganze Tohuwabohu und die jährlichen Berichte, in denen vorhergesagt wurde, was die Mobilität von Computern bewirken würde. Wir haben eine Kombination aus Reifung und Verarbeitungsleistung, wachsendem Speicher und dann vor allem, was das für Medien, Fotos und Filme ermöglichen würde.

Und ich weiß noch genau, dass ich dachte: Okay, ich habe eine tolle kleine Nikon-Digitalkamera. Sie hat eine tolle Speicherkarte. Ich nehme sie überall hin mit, und sie ist wunderbar. Ich habe diese Kamera immer noch. Ich habe sogar eine digitale Spiegelreflexkamera, aber ich habe sie nie benutzt. Und ich glaube, das hat mich eine wichtige Lektion gelehrt, nämlich dass die Fähigkeit, zu verstehen, wo sich die Technologie auf dem Bogen befindet, mehr darüber aussagt, wie sie das Leben der Menschen verändern kann. Und der Grund, warum ich das Geld für die aufgerüstete Version eines bestimmten Smartphones mit den besseren Kameras ausgeben werde, ist, dass ich festgestellt habe, dass ich mich dadurch als Vater besser fühle, weil ich gute Fotos von meinen Kindern machen kann. Und ich teile sie mit meiner Mutter, die weit weg wohnt, und ich teile diese Fotos mit ihr. Es hat also tatsächlich einen bedeutenden Einfluss auf mein Leben. So würde ich also die Frage interpretieren, wie viel besser es werden würde.

Und ich würde behaupten, dass die meisten Menschen diese Art von Technologie nur in einigen Bereichen zu spüren bekommen haben, nämlich in den Medien, die sie über die verschiedenen Informations- und Unterhaltungsquellen erhalten, in ihrem Wissens- und Informationszugang und dann in ihrem täglichen Leben, sei es bei der Arbeit oder sogar zu Hause. Ich glaube, was die meisten Menschen nicht wissen, ist, dass diese Technologie von den großen Suchmaschinen bereits in die Websuche integriert worden ist. Wahrscheinlich haben Sie es nicht bemerkt, aber Ihre Sucherfahrung hat sich in den letzten drei oder vier Jahren unglaublich verbessert, was die Qualität der abgerufenen, zusammengefassten und dargestellten Informationen betrifft.

Die meisten von uns denken nicht darüber nach, aber wenn man jetzt nach einem bestimmten Thema sucht, erhält man diese kleinen zusammengesetzten Ansichten auf dem Bildschirm, die eine Zusammenfassung und Links zu weiteren Informationen enthalten. Das ist generative KI, die das macht, wenn das passiert. Ähnlich verhält es sich mit der Navigation in den primären Navigations- und Kartenanwendungen: Auch hier ist es generative KI, die den Zugang zu Informationen über ein Geschäft oder einen Unterhaltungsort oder Ähnliches schafft.

Ich denke, der Bereich, in dem wir diese Dinge eher nicht spüren, ist unser Arbeitsleben, weil die Integration dieser Technologien in das Smartphone, okay, nun, das ist irgendwie in mein Gehirn eingedrungen. Es hat mein Arbeitsleben besser gemacht, aber es war immer eingeschaltet. Und ich denke, das wird sich mit dem Hype um die KI ändern. Die Bereiche, auf die sich die KI in der Regel konzentriert, sind auf die Bereiche Strategie, Optimierung und Lieferketten beschränkt. Das sind versteckte, esoterische Anwendungsfälle für kleine Bevölkerungsgruppen. Aber es hat sie schon immer gegeben.

Ich hatte das Glück, bei General Electric in einer Abteilung zu arbeiten, die künstliche Intelligenz zur Vorhersage der Abnutzung und des Ausfalls von Industrieanlagen einsetzte. Und einige der größten Fluggesellschaften der Welt nutzen künstliche Intelligenz, um Vorhersagen über die Abnutzung von Triebwerken zu erstellen. Und wir haben gesehen, dass sich die Qualität und Stabilität dieser Maschinen verbessert hat. Genau das wird sich im nächsten Jahr ändern. In einem Jahr werden wir generative KI in unserem Arbeitsleben haben. Bei Microsoft und Google mit ihren Produktivitätssuiten sieht man das bereits. Und in zunehmendem Maße wird sie auch auf andere Weise in unser Leben treten, wo sie, um es mit Gregs Worten auszudrücken, die Art und Weise verändert, wie wir lernen und wie wir etwas schaffen.

Und der Grund dafür ist, dass der große Sprung nach vorn mit Transformatoren und der generativen KI, mit der wir gearbeitet haben, Text in Text oder Text in Bild oder Bild in Text ist. Und das sind die grundlegenden Bausteine der meisten Unternehmen: Wir tauschen Dokumente aus, wir tauschen E-Mails aus, wir tauschen Informationen aus, und diese Informationen sind der Text. Ich glaube, wir sind, ich weiß nicht, 2 % davon entfernt, was das sein wird. Wir haben noch kaum etwas gesehen.

Aber ich bin sehr optimistisch, was das angeht, denn ich denke, dass wir im beruflichen Kontext oft bessere Redakteure als Autoren sind. Wir sind oft gut darin, Dinge zu redigieren und zu verbessern, basierend auf unserer Erfahrung, unserer Erfahrung in unserem beruflichen Umfeld. Und ich denke, es war gut, dass wir uns auf diesen Teil der Arbeit konzentrieren konnten, der wirklich den Wettbewerbsvorteil oder die Verbesserung ausmacht. Und wir werden dann nicht mehr so viel Zeit mit der unangenehmen ersten, schlechten Entwurfsphase eines Arbeitsprodukts verbringen. Und das ist die Informationsarbeit, die es überall gibt, und das sind die Berufsklassen auf der ganzen Welt.

Und das wird dann, denke ich, zu einer enormen Chancengleichheit in den Belegschaften auf der ganzen Welt führen, weil, sagen wir mal, Englisch nicht Ihre Muttersprache ist, das jetzt keine Rolle mehr spielt, weil Sie etwas, das in Ihrer Muttersprache geschrieben ist, tatsächlich nehmen können. Ich weiß nicht, ob Sie schon einmal mit diesen Übersetzungsmodellen herumgespielt haben, aber es ist wunderbar. Bei relativ taktischen Aufgaben sind sie jetzt auf Augenhöhe mit erfahrenen menschlichen Übersetzern. Und wir haben während der Hype-Tage gesehen, dass es Ohrstöpsel gab, die für einen übersetzen konnten. Und es gibt Dinge, die man benutzen kann. Ich war kürzlich auf Reisen und mein Schulspanisch ist sehr schlecht, aber ich kann jetzt Google Translate benutzen, das von generativer KI angetrieben wird, und diese anderen Tools, um dies zu tun. Und jetzt übersetze ich das in den Arbeitskontext. Und ich denke, wir haben gerade erst begonnen, das zu berühren, was sein wird.

Und das wirklich Interessante ist, dass wir einen Punkt erreicht haben, an dem wir eine ausreichende Menge an privaten, geschützten Geschäftsdaten haben, die diesen Modellen nicht zugänglich sind. Aber jetzt haben wir die Werkzeuge, die diese Daten für Unternehmenstechnologen zugänglich machen. Ich glaube, das ist es, was sich grundlegend geändert hat: Die Kerntechnologie ist eigentlich schon seit fünf, sieben Jahren relativ ausgereift. Wir sind ziemlich weit in den Dingen, die wir mit ChatGPT gesehen haben, mit mehr Rechenleistung, die auf eine Architektur geworfen wurde, die vor sieben Jahren existierte, als das erste Papier über diese Dinge herauskam. Und das ist es, was sich jetzt in der Arbeitswelt wirklich ändert. Wir haben Zugang zu der Technologie, um diese Dinge relevant zu machen. Die semantische Suche wird also besser, die extraktive Zusammenfassung, die abstrakte Zusammenfassung, die Wissensarbeit, die kreative Arbeit wird besser. Und genau das werden wir in den nächsten Jahren sehen.

Dayle Hall: 

Ich denke, das ist für mich der Schlüssel. Ich meine, sehen Sie, wir sind in SnapLogic. Wir sind hier, um Integrationstechnologie zu entwickeln, zu vermarkten und zu verkaufen. Und mir gefällt, was Sie beide gesagt haben. Greg, Sie haben speziell über verschiedene Branchen gesprochen, z. B. über das Gesundheitswesen, das sich massiv verändern wird, und über den akademischen Bereich. Und was Sie, Jeremiah, über die Auswirkungen auf unser Privatleben gesagt haben. Und wir haben gerade damit begonnen, Jeremiah, über die Arbeit zu sprechen: Wie wird das funktionieren?

Und ich habe das Gefühl - sehen Sie, ich mache seit 25 Jahren Marketing in der Technologiebranche, und ich spreche seit 25 Jahren in der einen oder anderen Form über die Zukunft der Arbeit. Sie haben über iPhones gesprochen. Bei Aruba Networks haben wir versucht, den Leuten die Richtlinien für "Bring Your Own Device" näher zu bringen, weil die Leute all diese Technologie mitbringen, die sie nicht kontrollieren können. Wir sprechen also immer über die zukünftige Arbeit.

Was werden Ihrer Meinung nach die großen Veränderungen sein, eher früher als später? Lassen Sie uns auf die IT konzentrieren, denn ich weiß, dass es eine Menge anderer Dinge gibt, auf die wir uns konzentrieren könnten. Und ich weiß, dass wir in einem Marketingteam bereits verschiedene generative KI-Tools einsetzen, um uns zu helfen. Aber wenn Sie da draußen sind und zuhören, Sie sind eine Art Ingenieur oder Chief Data Officer in einem Unternehmen, was sind die Dinge, über die sie nachdenken müssen? Was wird in den nächsten 12 Monaten auf sie zukommen und wie wird sich ihre Arbeit verändern? Greg, warum fangen Sie nicht damit an?

Greg Benson:

In der Praxis geht es nicht nur darum, sich mit der Technologie zu befassen und zu verstehen, was sie kann, sondern auch um die Grundzüge der Sprachmodelle, die über APIs zur Verfügung gestellt werden, oder darum, ob man den Weg der Feinabstimmung geht oder sein eigenes Modell trainiert, was derzeit teurer ist. Welchen Kontakt Sie mit der Technologie haben, ist eine Sache, die Sie klären müssen, welchen Anbieter wir nutzen. Das, womit wir intern konfrontiert sind und womit viele Unternehmen konfrontiert sind, ist der rasche Wandel, der sich aus der Sicht der Regulierung ergibt, nämlich GDPR. Und das ist lustig. Es ist so schnell gegangen, dass der Brief, in dem die generative KI für sechs Monate ausgesetzt wurde, so aussah, als würde man die Kryptowährung abschalten, das geht nicht. Es ist, als ob sie hier wäre.

Dayle Hall:

Das ist alles in der Tasche.

Greg Benson:

Ja, das stimmt. Es gibt also zwei Dinge, die ich sofort sagen würde. Erstens: Wenn Sie ein Profi sind und gerade erst anfangen - und wir waren gestern auf dieser AWS-Veranstaltung, und viele Leute befinden sich gerade in der Anfangsphase von, okay, wir - und viele Unternehmen haben Richtlinien von oben. Es gibt zwar einige Basisinitiativen, aber es gibt jetzt Vorstände, die sagen: Okay, wo ist unsere generative KI? Was sind unsere Initiativen? Wo passt sie in unser Unternehmen? Und wir wollen in den nächsten drei bis sechs Monaten einige Ergebnisse sehen.

Man muss also diese Berührungspunkte verstehen und sich darüber klar werden, wie man auf die Technologie zugreifen will. Dann gibt es da noch die rechtlichen Aspekte, die ehrlich gesagt noch nicht vollständig geklärt sind. Aber wenn Sie in einer Branche tätig sind, die mit sensiblen Daten zu tun hat, wird das ein Teil der Gleichung sein. Ein kleiner Hinweis für uns ist, dass wir uns schon seit einiger Zeit mit diesem Thema befassen und dass wir auch unseren Kunden dabei helfen können. Die Einhaltung von Vorschriften und Bestimmungen ist eine weitere Sache, die Sie beachten müssen.

Dayle Hall:  

Und du? Ja. Jeremiah, was ist mit Ihnen? Was sind Ihrer Meinung nach die großen Veränderungen innerhalb der IT, innerhalb der vorhandenen Rollen, die sich Ihrer Meinung nach im nächsten Jahr oder so auswirken werden?

Jeremiah Stone:  

Nun, ich habe interne IT-Abteilungen geleitet, war Teil der internen IT. Mein erster Job nach dem Studium war eigentlich ein Systemadministrator. Da ich also in der IT-Abteilung gearbeitet habe, denke ich, dass der Endbenutzersupport viel besser werden wird. Die Fähigkeit der IT-Abteilung, automatisierte Wissensspeicher zu erstellen, und die Möglichkeit für die einzelnen Mitarbeiter, ihre Probleme selbst zu lösen, wird sich meiner Meinung nach erheblich verbessern. Die Erfahrung mit dem Helpdesk, wo man IT-Support leisten muss. Ich denke, dass der gesamte IT-Support und die Fähigkeit der Mitarbeiter, ihre Probleme selbst zu lösen, dramatisch zunehmen werden. Und das wird den produktiven Einsatz von Tools weiter einschränken. Ich denke also, dass dies ein Bereich ist, in dem die IT-Abteilung von Anfang an darauf achten sollte, wie sie diese Tools nutzen kann, um ihre Endbenutzer zu unterstützen und ihnen Zugang zu Wissen zu verschaffen.

Ähnlich verhält es sich meiner Meinung nach mit der Übertragbarkeit von Fähigkeiten, um auf Gregs Argument einzugehen. Er hat vorhin sehr schön beschrieben, wie man eine neue Sprache lernt, wie man eine neue Technologie lernt, wie man eine alte Technologie lernt. Die Fähigkeit, die Verantwortung für bestimmte Teile der Unternehmenslandschaft des Anwesens abzugeben, ist also eine andere Sichtweise. Die Fähigkeit, Aufgaben und Verantwortung durch die Übertragbarkeit von Wissen fließend zu gestalten, und die Art und Weise, wie man das einrichtet, wird sich meiner Meinung nach definitiv ändern.

Ich denke, dass die IT-Abteilungen noch stärker unter Druck geraten werden, neue Tools und neue Funktionen einzuführen und mehr Risiken für das Unternehmen zu tragen, denn die leistungsstärksten Modelle der generativen KI sind nur über APIs verfügbar. Man kann sie nicht herunterladen und innerhalb der eigenen vier Wände ausführen. Sie können also nur noch über das erweiterte Unternehmen genutzt werden. Und nun wird es plötzlich sehr komplex und anspruchsvoll zu verstehen, wie Sie Ihre geschützten und vertraulichen Daten und Vermögenswerte verwalten können. Das ist der eine Bereich, in dem die Dinge sehr viel differenzierter werden. Und ich würde sagen, dass dies ein Bereich ist, in dem die großen Anbieter dieser Systeme im Moment Schwierigkeiten haben.

Und ich denke, wir werden sehen - wenn es einen Bereich gibt, in dem sich der gesamte Bereich wirklich ausbreitet und uns eine Menge Optionen bietet, dann sind es rechen- und speicherbeschränkte Modelle, die für enge Aufgaben fein abgestimmt werden können, die dann das geistige Eigentum und die Vermögenswerte schützen, und auch eingeschränkte vortrainierte Modelle, bei denen man Zugang zum tatsächlichen Verständnis der Daten hat, auf denen sie trainiert wurden. Daher müssen Sie sich nicht mit Urheberrechtsfragen und dergleichen befassen. Das ist also ein Bereich, in dem man sich Zugang verschafft und jemanden im Team findet, der zum Experten wird, weil es heute keine Experten auf diesem Gebiet gibt, jemanden findet, der sich damit auskennt, um loszulegen, den richtigen externen Berater findet, weil Ihr interner Berater wahrscheinlich nicht in der Lage ist, übertragbares Wissen oder die nötige Bandbreite zum Lernen hat. Das sind einige der Bereiche, die mir einfallen.

Dayle Hall:

Ja, genau. Also Greg, lass uns diese Frage an dich richten. Ich habe jetzt eine Menge dieser Podcasts gemacht. Wir haben über KI unter verschiedenen Aspekten gesprochen. Wir haben über ethische KI gesprochen. Und ich habe mit einigen Non-Profit-Organisationen gesprochen, die sich wirklich auf dieses Thema konzentrieren. Steve Nouri hat in Australien eine Organisation gegründet, in der Menschen zusammenkommen, um sicherzustellen, dass wir verantwortungsvoll mit den Menschen umgehen, die am meisten davon betroffen sind, und um Gruppen mit unterschiedlichen Fähigkeiten, Erfahrungen und Hintergründen zusammenzubringen, die sich mit dieser Art von Dingen beschäftigen.

Ich habe zwei Fragen. Die erste ist: Hilft oder behindert generative KI die Fragen rund um ethische KI? Oder müssen wir uns immer noch mit der Frage auseinandersetzen, wie wir sicherstellen können, dass die KI nicht von vornherein auf schlechte Daten trainiert wird und dass generative KI die Situation nicht noch verschlimmert, so dass wir immer noch sicherstellen müssen, dass die Daten, die wir haben, von vornherein korrekt sind? Wie denken Sie über generative KI und ethische KI zusammen?

Greg Benson:

Wie Sie wahrscheinlich gelesen haben, gab es bereits vor dem jüngsten Boom der großen Sprachmodelle zahlreiche Studien über Verzerrungen in den Trainingsdaten und deren Auswirkungen auf die Verwendung von ML bei der Bewilligung von Wohnungsbaudarlehen oder beim Herausfiltern von Stellenbewerbern sowie über die Verzerrungen, die vielleicht unwissentlich von den Personen verursacht wurden, die die Trainingsdaten beschafft und gesammelt haben. Sicherlich kann dieses Problem auch bei diesen generativen KI-Systemen auftreten. Und ich denke, es gibt eine Menge guter privater Unternehmen und, wie Sie sagten, gemeinnützige Organisationen, die sehr darauf bedacht sind, sicherzustellen, dass wir uns der negativen Auswirkungen potenzieller Voreingenommenheit in den Trainingsdaten bewusst sind und versuchen, diese abzuschwächen.

Eines möchte ich dazu sagen: Die jüngste Entwicklung dieser Technologie hat vielleicht sogar noch mehr Aufmerksamkeit auf dieses Thema gelenkt, als wir es bisher erlebt haben. Ich würde sagen, dass eines der aufregenden Dinge, die helfen werden, die überwältigende Menge an öffentlichem und gemeinschaftlichem Engagement rund um Modelle und die zunehmende Anzahl öffentlicher Modelle ist. Und die Verfügbarkeit der Quelldaten zum Trainieren der Modelle wird es der Welt und der Gemeinschaft insgesamt ermöglichen, diese zu bewerten, zu verstehen, zu erforschen und aufzuzeigen, wo es in diesen Systemen Mängel gibt.

Ein gutes Beispiel dafür ist das vielleicht erfolgreichste Betriebssystem der Gegenwart, Linux, das öffentlich verfügbar ist, öffentlich geprüft wurde und zu einer Technologieplattform geführt hat, auf die wir uns in allen Bereichen verlassen, im Bankwesen, im Gesundheitswesen. Ja, es gibt noch andere Betriebssysteme, aber es ist ein weit verbreitetes Betriebssystem, auf das man sich verlassen kann und das öffentlich und quelloffen ist.

Ich denke also, dass die generative KI nicht unbedingt hilfreich oder schädlich ist. Aber ich sehe, dass die Bewegung rund um das Open Sourcing von Modellen und das Engagement der Community uns dabei helfen kann, Probleme aufzudecken und sie in Zukunft anzugehen.

Dayle Hall:  

Die Frage, die ich Ihnen stellen wollte, und ich glaube, Sie haben das vorhin schon angedeutet, war, als die generative KI anfing, sehr öffentlich zu werden, und es einige, nennen wir sie, Innovatoren in der Technologiewelt gab, die eine Pause forderten, aus altruistischen Gründen oder nicht, was war Ihre Antwort darauf? Damit will ich nicht sagen, dass die Forderung nicht berechtigt war. Ich behaupte nicht, dass es sich um einen Gag oder eine Marketingmaßnahme handelte, aber wenn man diese Art von Reaktion sieht, wenn jemand darum bittet, langsamer zu fahren - wir haben gerade darüber gesprochen -, dann kann man den Zug zu diesem Zeitpunkt nicht wirklich zurückfahren, aber wie sehen Sie das? War es nur die Werbung, die Sie aus Ihrer akademischen und datenwissenschaftlichen Perspektive betrachtet haben, die Sie wirklich beunruhigt hat?

Greg Benson:

Ich glaube, es war vor allem eine echte Sorge um die Menschheit. Ich denke, wenn man sieht - ich habe das Zitat vergessen. Aber wenn man eine Technologie sieht, die von Magie nicht zu unterscheiden ist, wenn wir diesen unglaublichen Sprung gesehen haben, der nach allem, was man hört, nicht sofort erklärbar ist, und um ehrlich zu sein, selbst die Strukturen, diese tiefen neuronalen Netze, die wir mit der Transformatortechnologie, von der Jeremiah gesprochen hat, gebaut haben, wir haben diese Dinge gebaut, verstehen wir sie vollständig? Das ist immer noch nicht klar.

Wenn man also diesen Sprung sieht, dann denke ich, dass es einfach ein "Wow, wo geht das noch hin? Wir haben einen so großen Sprung nach vorn gemacht, was die Fähigkeit angeht, etwas zu verstehen und zusammenzufassen und auf eine Weise zu handeln, die viele menschliche Reaktionen nachahmt. Vielleicht ist es nur eine natürliche Reaktion: Da wir es nicht vollständig erklären können, ist es wirklich erstaunlich, wie geht es weiter? Und ich denke, das ist der eigentliche Grund für die Besorgnis: Könnten diese KI-Systeme anfangen, mehr Entscheidungen zu treffen? Und sollten sie mehr Entscheidungen treffen? Und wo werden sie in unseren Prozessen eingesetzt, z. B. im Gesundheitswesen, in der Regierung, bei der Polizei und in diesen Bereichen?

Übrigens bestreite ich nicht, dass wir als Gesellschaft sehr wachsam sein müssen, um zu verstehen, wo und wie diese Systeme eingesetzt werden. Ich glaube nicht, dass das jemand bestreitet. Ich denke also, dass die Pause aus echter Sorge um die Zukunft der Menschheit im Zusammenspiel mit dieser Technologie entstanden ist. Ich denke, wie wir schon sagten, sie ist da draußen. Die Frage, die sich mir stellt, ist: Wie reagieren wir als Gesellschaft, wie reagieren wir als Regierungen, um zu verstehen, wo wir glauben, dass diese Technologie der Gesellschaft nützen wird, und wo wir die größten Risiken für die Gesellschaft sehen? Und da gibt es noch viel zu tun, genau wie bei Autos und der Sicherheit von Windschutzscheiben und dem Verständnis der Gesundheitsrisiken von Zigaretten. Und mit diesen Dingen werden wir uns auch weiterhin beschäftigen müssen.

Dayle Hall:  

Ja, das stimmt. Nun, was mir zumindest etwas Trost spendet, ist, dass ich weiß, wie die Dinge, die Sie betrachten, aussehen. Und noch einmal: Sie formen mit Ihrer Arbeit die Köpfe der zukünftigen Ingenieure und Datenwissenschaftler. Und die Tatsache, dass Sie so darüber denken, die Tatsache, dass ich weiß, dass viele der Prozesse, die wir bei SnapLogic im Zusammenhang mit Dingen wie dem SnapGPT-Produkt durchlaufen, darauf abzielen, sicherzustellen, dass es mindestens so sicher ist, wie jedes andere Produkt, das wir herausgeben sollten.

Aber wie Sie schon sagten, weiß ich nicht, ob es Sie oder Jeremiah waren, der sagte, dass wir 1 %, 2 % auf dieser Reise sind. Ich denke, wir alle müssen die Möglichkeiten und Chancen sehen, aber auch dafür sorgen, dass wir weiterhin verantwortungsbewusst zum Wohle aller handeln.

Greg Benson:

Ja, auf jeden Fall.

Dayle Hall:

Nun, ich freue mich, dass es gute Antworten gab. Um zum Schluss zu kommen, Jeremiah - und in diesem Podcast geht es nicht darum, das Produkt von SnapLogic zu bewerben. Aber mit dem Aufkommen der generativen KI und dem, was SnapLogic im Bereich der generativen Integration tut, ist das eine gute Gelegenheit. Sagen Sie mir, warum Sie sich auf das freuen, was wir zum Zeitpunkt der Veröffentlichung dieses Podcasts auf den Weg gebracht haben werden, nämlich die allgemeine Verfügbarkeit von SnapGPT.

Jeremiah Stone:

Ich freue mich sehr über den Start der Arbeit, an der unser Team in den letzten Monaten hart gearbeitet hat. Was wir wirklich eröffnen, ist die Möglichkeit für den Einzelnen, der ein geschäftliches Problem hat, sein Problem zu beschreiben und viel schneller zu einem System zu gelangen, das seinen Bedarf deckt. Und das ist etwas, womit wir in der Welt der Projekt- und Anwendungsbereitstellung schon immer zu kämpfen hatten, nämlich die Absicht oder die Anforderungen einer Person in ein funktionierendes System zu übersetzen. Heute sind wir in der Lage, eine System-zu-System-Integration oder einen Arbeitsaufwand zu beschreiben und den ersten Entwurf, den Prototyp dieses Arbeitsaufwands in Sekundenschnelle zu erstellen und dann, wie gesagt, zur Bearbeitung überzugehen, nicht zur Erstellung.

Und wenn ich mit unseren frühen Anwendern spreche, ist es erstaunlich, dass sie sagen: "Normalerweise hätte ich dafür ein oder zwei Tage gebraucht, aber ich habe den ersten Entwurf in einer Stunde erstellt. Und das sind schwierige bis komplexe Pipelines. Und wenn ich diese Art von Zeitersparnis sehe, denke ich daran, dass jemand früher zu seiner Familie nach Hause kommt und ein erfüllteres Leben führen kann. Wenn diese Technologie wirklich wichtig ist, dann verbessert sie nicht nur das Geschäft und die Fähigkeit der Mitarbeiter, ihre Arbeit zu erledigen, sondern sie verbessert auch unser Leben grundlegend.

Und ich glaube, dass wir das mit SnapGPT und der Arbeit, die wir leisten, jetzt in der Hand haben, denn wie wir aus vielen bekannten Quellen erfahren haben, besteht 65 %, 50 % bis 60 % der gesamten Arbeit in der IT aus der Integration von Systemen. Und wenn wir das auslöschen und auf Null reduzieren können, dann können Sie sich vorstellen, wie sich das auf das tägliche Leben der Menschen auswirkt, auf ihre Fähigkeit, sich auf ihre Kunden und Kollegen zu konzentrieren und einen Mehrwert zu schaffen, anstatt sich mit dem Zusammenfügen der einzelnen Teile zu beschäftigen - ich bin begeistert.

Dayle Hall:

Und wie Sie sagten, wäre es ein schöner Nebeneffekt, mehr Zeit mit den Familien zu verbringen. Jeremiah, vielen Dank, dass Sie heute bei uns im Podcast sind.

Jeremiah Stone:

Danke, dass ich dabei sein durfte, Dayle. Ich weiß das wirklich zu schätzen. Und ich freue mich darauf, weiterhin ein treuer Hörer zu sein und zu sehen, wohin uns diese Reise führt. Es ist eine großartige Zeit, das zu tun, was wir tun. Und ich fühle mich gesegnet.

Dayle Hall:

Klingt gut. Greg, danke, dass Sie heute beim Podcast dabei waren. Und ich denke, irgendwann in der Zukunft werden wir Sie hoffentlich dazu bringen, hier noch einmal aufzutreten.

Greg Benson:

Ich würde mich freuen. Ja, ich habe es genossen.

Dayle Hall:

Danke, dass Sie bei uns waren, Greg.

Das war's also mit Staffel 2 unseres Podcasts. Ich finde, das ist ein toller Abschluss für diese Staffel. Es gab auf jeden Fall einige spannende Entwicklungen. Ich glaube, als wir mit der Aufzeichnung von Staffel 2 begannen, war ein Großteil der generativen KI gerade erst auf dem Vormarsch. Und schauen Sie sich an, wo wir jetzt sind. Wir sind drei oder vier Monate weiter, und die Möglichkeiten, die wir sehen, kommen nicht nur aus unserem eigenen Unternehmen, sondern auch aus so vielen anderen Bereichen. Die Technologie, die Innovation, die sie jetzt entwickeln können, ist einfach atemberaubend, absolut atemberaubend.

Ich denke daran, was meine Kinder in den nächsten 5, 10, 15 Jahren erleben werden. Und das ist aufregend. Einige dieser Dinge machen mich auch nervös, weil wir alle sicherstellen müssen, dass wir weiterhin verantwortungsbewusst handeln. Bei einigen dieser Technologien wissen wir nicht, wohin sie sich entwickeln werden. Und ich hoffe und glaube, dass die meisten Organisationen da draußen genauso handeln werden. Aber für uns steht am Ende dieser zweiten Staffel fest: Vielen Dank, dass Sie diesen Podcast gehört haben. Das war die Automatisierung des Unternehmens. Ich bin Dayle Hall, der CMO von SnapLogic, und wir sehen uns beim nächsten Mal.