Startseite Folge 18

Podcast Folge 18

Herausforderungen durch KI, generative KI und verantwortungsvolle KI

mit Bill Wong, leitender Forschungsdirektor - KI und Datenanalyse bei der Info-Tech Research Group

Möchten Sie in der sich ständig verändernden Welt der KI die Nase vorn haben? In dieser Folge diskutieren Bill und Dayle über verantwortungsvolle KI und die Herausforderungen der Selbstverwaltung in Unternehmen. Außerdem erkunden sie die aufregendsten kommenden Innovationen im Bereich der KI, vom personalisierten Filmemachen bis zur Gründung weltweiter Gruppen, die Regeln und Verantwortlichkeiten für ethische KI festlegen.

Vollständiges Transkript

Dayle Hall: 

Hallo, Sie hören gerade unseren Podcast "Automatisierung des Unternehmens". Ich bin Ihr Gastgeber, der CMO von SnapLogic, Dayle Hall. Dieser Podcast soll Unternehmen Einblicke und Best Practices geben, wie sie ihr Unternehmen integrieren, automatisieren und transformieren können.

Unser heutiger Gast verfügt über umfangreiche Erfahrung in der Zusammenarbeit mit einigen der größten Namen der Tech-Branche, wie IBM, Microsoft, Dell, Oracle, Sie wissen schon, diese kleinen Unternehmen, die wir alle schon eine Million Mal gesehen haben. Er ist ein angesehener Meinungsführer und leistet einen wichtigen Beitrag zur KI-Forschung. Es ist uns eine Ehre, unseren heutigen Podcast mit dem Leiter der KI- und Datenanalyseabteilung der Infotech Research Group, Bill Wong, zu führen. Bill, willkommen in der Sendung.

Bill Wong:

Vielen Dank, Dayle. Schön, hier zu sein.

Dayle Hall:

Ich denke, es ist immer gut, den Leuten ein wenig Hintergrundwissen zu vermitteln, wie Sie dazu gekommen sind, wie Sie Forschungsleiter geworden sind, was Sie zu KI gebracht hat. Jeder hat einen anderen Hintergrund. Aber geben Sie uns etwas Kontext, geben Sie mir die Kurzfassung Ihrer Karriere und wie Sie dort gelandet sind, wo Sie heute sind.

Bill Wong:

Das geht auf die Zeit an der Universität zurück. Ich war ein reiner Mathe-Student und war fasziniert davon, wie man Algorithmen optimiert. Ich habe Informatik studiert und es gehasst. Ich hatte einfach keine Lust zu programmieren. Also bin ich in die Wirtschaft gegangen, habe einen MBA gemacht und bei IBM angefangen. Alle meine Aufgaben waren datenbezogen. Ich verbrachte viel Zeit in der Entwicklung. Ich war sozusagen der Ansprechpartner für das Briefing der Führungskräfte. Und ich hatte viele Gelegenheiten, viele verschiedene Kunden aus der ganzen Welt zu treffen. Danach wollte ich mit einer Technologie arbeiten, die mehr verbreitet ist, und ging zu Microsoft, um an deren Big Data-Angeboten zu arbeiten. Und nach Microsoft ging ich zu Oracle, um an deren Big-Exit-Datensystemen oder Analytik zu arbeiten.

Und dann bekam ich ein Angebot von Dell, deren KI-Praxis zu leiten. Und das habe ich dann die letzten fünf Jahre gemacht. Und das war großartig, das Beste der Branche. Dell hat sich mit allen gut verstanden. Ich musste nicht sagen: "Hey, IBM ist der Beste" oder "Microsoft ist der Beste". Ich konnte tatsächlich auswählen, was für den Kunden am besten war. Und jetzt bei Infotech. Auch hier bin ich sehr unabhängig und konzentriere mich auf Lösungen, die die Kunden je nach ihren individuellen Anforderungen einsetzen können.

Dayle Hall:

Okay. Das ist gut, denn was mir an Ihrem Hintergrund gefällt, ist, dass Sie auf der Anbieterseite tätig waren und jetzt eine Menge Kundenberatung machen. Sie haben einen guten Hintergrund, Sie haben beide Seiten der Gleichung gesehen. In einigen dieser anderen Podcasts haben wir mit allen gesprochen, die durch KI aufgestiegen sind, und es ist erstaunlich, dass jeder einen anderen - fast einen anderen - Weg eingeschlagen hat. Wir haben mit Software-Ingenieuren und Mathematikern wie Ihnen gesprochen. Wir hatten sogar jemanden, der über die Personalabteilung zu uns kam. Er beschäftigt sich mit künstlicher Intelligenz zur Analyse von Menschen und so weiter. Ich liebe diesen Hintergrund, weil er uns eine andere Perspektive gibt. Sie sind eindeutig viel klüger als ich, was die Mathematik angeht.

Lassen Sie uns also weitermachen. Wir haben drei verschiedene Abschnitte, über die ich sprechen werde. Erstens beginnen wir mit der Arbeit mit allgemeinen KI-Herausforderungen. Dann werden wir uns mit dem wahrscheinlich heißesten Thema des Tages beschäftigen, der generativen KI. Ich weiß nicht, wann genau dieser Podcast veröffentlicht wird, aber jeder wird sicherlich schon von ChatGPT und all den neuen Versionen gehört haben. Ich bin also sehr gespannt darauf. Und am Ende werden wir über verantwortungsvolle KI sprechen.

Beginnen wir also mit ein paar Dingen, an denen Sie gerade arbeiten. Welche aktuellen Projekte haben Sie? Was sind die großen Dinge, an denen du mit einigen deiner Kunden arbeitest?

Bill Wong:

Wie Sie bereits erwähnt haben, ist generative KI in aller Munde. Wir arbeiten also mit einer Reihe von Kunden zusammen, die uns bitten, ihnen bei der Entwicklung ihrer KI-Strategie zu helfen. Aber mit generativer KI sind sie direkt konfrontiert. Ich beobachte gerade, dass IT-Leute vom Firmenchef gefragt werden: "Können wir das heute schon nutzen? Es gibt so viel Hype da draußen.

Ich arbeite also gerade daran, dass es eine Menge großartiger Informationen gibt, die den Kunden bei der Bewältigung des Wandels helfen. Und ich habe versucht, das Beste aus den Reifekurven da draußen zu nehmen. Nicht, dass das völlig neu wäre, aber ich denke, dass die Idee der generativen KI die Leute dazu bringt, sich zu fragen, ob das legal und ethisch vertretbar ist. Und so hoffen wir, dass die Leute, wenn sie auf unsere Website kommen, diese Reifekurve sehen, die wir unseren Kunden präsentieren.

Der Unterschied liegt auf der Achse der Reife. Die meisten Unternehmen konzentrieren sich zunächst auf die Frage, ob das funktionieren kann. Sie sind sehr technisch orientiert. Haben wir die richtigen Daten? Haben wir das richtige Modell? Verfügen wir über die richtige Infrastruktur? Wie ist die Leistung unserer Vorhersage usw.? Natürlich versucht man nur, die Sache zum Laufen zu bringen. Aber im Laufe der Zeit, wenn die Leute sich immer wohler fühlen und mehr Erfolg haben - und nebenbei bemerkt, kann man eine Menge Geld verdienen, wenn man sich nur auf die technische Seite konzentriert. Aber mit der zunehmenden Verbreitung von Technologie fragen die Leute: Hey, ist dein Algorithmus fair? Sind die Daten, die ich Ihnen zur Verfügung stelle, privat? Diese Art von Fragen hat die KI-Gemeinschaft allgemein als prinzipienbasierte KI bezeichnet. Was ich also tun möchte, ist, den Leuten ins Gesicht zu sagen: Hey, wenn ihr euch mit KI beschäftigt, müsst ihr anfangen, über Prinzipien als Teil eurer Reife nachzudenken.

Dayle Hall:

Okay, wir sind bei einem Podcast, also hören die Leute zu. Wir werden versuchen sicherzustellen, dass Sie, wenn Sie sich diesen Podcast ansehen, einen Weg finden, dieses Reifegradmodell zu finden, von dem Bill spricht. Aber stellen Sie sich einfach vor, es ist eine Reise von der Technologiezentrierung zu den Prinzipien, die Bill erwähnt hat. Und mit der Zeit bewegt man sich entlang einer, ich nenne es mal, abgeflachten S-Kurve, die den ganzen Weg von der Erkundung bis zur Einbindung zeigt. Und dann, sobald man die Verbreitung erreicht hat, kommt man sehr schnell zur Optimierung. Und das letzte Stück, das etwas länger dauert, ist die echte Transformation.

Könnten Sie uns also einige dieser ersten Reisen beschreiben, Bill? Was bedeutet Erkundung und Eingliederung? Und dann lassen Sie uns den ganzen Weg bis zur Transformation gehen. Was ist ein echtes Beispiel für eine Transformation entlang Ihres Reifegradmodells?

Bill Wong:

Ich verbringe noch viel Zeit mit der Erforschung. Forschungszentren in Krankenhäusern und Universitäten erhalten Diagramme. Sie versuchen herauszufinden, ob wir das mit den vorhandenen Geräten machen können. Oder brauchen wir dafür spezielle KI-Beschleuniger? In einer perfekten Welt würde man die KI-Beschleuniger bekommen, einige besonders schwierig oder besonders mit Milliarden von Datenpunkten. Ja, man kann das nicht mit einer typischen Serverinfrastruktur machen. Deshalb verbringe ich viel Zeit damit, ihnen die besten Verfahren für die erforderliche Hardware-Infrastruktur und die Software vorzustellen, die sie für die Entwicklung ihrer Modelle auswählen können.

Das ist also ein wichtiger Teil. Und dann geht es bei der Einarbeitung in der Regel darum, ihnen bei der Entwicklung eines POC zu helfen, der darauf basiert, welche Art von Vorhersagen wir mit diesem Modell treffen wollen. Wie Sie sich vorstellen können, fangen die meisten Leute gemeinsam an. Proliferieren. Es gibt eine Reihe großartiger Unternehmen, die alle KI einsetzen.

Wenn man nun in die Optimierung und Umwandlung einsteigt, ist das der Punkt, an dem viele Unternehmen scheitern, denn hier werden wir prinzipieller, und man denkt an Dinge wie die Frage, ob eine Bank bei diesen wichtigen, sagen wir mal, finanziellen Entscheidungen eine unvoreingenommene Entscheidung darüber treffen soll, ob diese Person einen Kredit bekommen soll oder nicht. Man muss also das Modell fragen, wie Sie zu dieser Entscheidung gekommen sind.

Erklärbarkeit und Transparenz sind Dinge, die noch vor ein paar Jahren von den meisten Menschen nicht wirklich berücksichtigt wurden. Vor allem wenn man unüberwachte Algorithmen verwendet, ist das eine Art Herausforderung. Ich glaube, die Literatur konzentriert sich mehr darauf, aber sie ist noch nicht ausgereift. Wenn ich die Leute frage, welche Tools sie für Dinge wie Datenklassifizierung verwenden, wie sie den Datenschutz regeln, sind das Fragen, über die die Leute nicht wirklich nachdenken. Sie haben sich nur Gedanken darüber gemacht, wie sie das Modell zum Laufen bringen können. Wir müssen es vorher machen. Jetzt fragen Sie mich, wie ich den Datenschutz bewahre, wie ich sicherstelle, dass ich transparent bin, wie ich meine Entscheidungen treffe. Dieses Feld ist also noch im Wachstum begriffen. Es ist immer noch so etwas wie der Wilde Westen.

Und dann gibt es eine Reihe von Unternehmen, die meiner Meinung nach großartig darin sind, was ich als "AI first" bezeichne, zu transformieren. Alles ist darauf ausgerichtet, ihren Kunden mithilfe von KI-Technologie einen Mehrwert zu bieten. Aber tun sie dies auch mit den Grundsätzen der Verantwortung? Und das ist schwierig. Wenn ich das hier vorstelle, haben die führenden Unternehmen - ich ziehe meinen Hut vor ihnen - alle spektakuläre Fehler gemacht. Man kann sich alle großen Technologieunternehmen ansehen, und alle sagen, okay, so macht man das. Aber sie haben alle spektakuläre Fehler gemacht. Ich werde keine Namen nennen, aber jeder hat schon von Unternehmen gehört, die KI einsetzen, um sich Lebensläufe anzuschauen, und dann plötzlich feststellen, dass sie ziemlich voreingenommen ist.

Und man denkt, es sei so offensichtlich. Aber auch hier sind die Menschen so sehr darauf konzentriert, das Modell zum Laufen zu bringen, dass sie diese Grundsätze vergessen. Und niemand ist davor gefeit. Man muss wirklich jemanden haben, der von Anfang an darüber nachdenkt.

Dayle Hall:

Ja, ja. Und das gefällt mir. Ich habe, wie bereits erwähnt, einen Podcast mit jemandem aus dem Personalbereich gemacht, und wir haben viel über die Voreingenommenheit in diesem Bereich gesprochen, insbesondere im Personalbereich. Und wenn man Voreingenommenheit hat, wird sie durch KI nicht behoben. Es geht sogar noch ein bisschen mehr darum.

Sie haben etwas gesagt, das wirklich interessant war. Ich habe noch nie gehört, dass es so beschrieben wurde: ungestützte Algorithmen. Viele Leute haben über die Erklärbarkeit und die Transparenz der KI gesprochen, aber was genau meinen Sie mit ungestützten Algorithmen?

Bill Wong:

Ich meine unbeaufsichtigt.

Dayle Hall:

Unüberwacht.

Bill Wong:

Es gibt das überwachte Lernen, bei dem Menschen dabei helfen, die Algorithmen zu trainieren. Beim unüberwachten Lernen lässt man die Algorithmen selbständig eine Entscheidung treffen. Es ist für sie ziemlich schwierig zu erklären, wie die Entscheidung zustande gekommen ist. Das Beispiel zeigt, dass bei der bildbasierten Verarbeitung in der Regel unüberwachte Algorithmen zum Einsatz kommen. Wie kann man also einen Hund von einer Katze unterscheiden? Müssen Sie wirklich wissen, wie das gemacht wurde? Ist das wirklich wichtig? Viele würden sagen, nein, solange es sehr zuverlässig ist, und das ist für sie in Ordnung. Aber wenn es darum geht, ob jemandem ein Bankkredit bewilligt werden soll oder nicht, wie hoch die Versicherungsprämie sein soll - bei solchen Fragen verlangen die Menschen fast schon ein gewisses Maß an Transparenz, damit die Entscheidung völlig unvoreingenommen ist.

Dayle Hall:

Ich freue mich immer, wenn ich mit Leuten spreche, die Unternehmen und Menschen in diesem Bereich beeinflussen - wir stecken noch in den Kinderschuhen der KI. Ich bin sehr ermutigt, weil ich glaube, dass die Menschen versuchen, das Richtige zu tun. Sie versuchen, verantwortungsbewusst zu handeln. Und in einem der Podcasts, die wir kürzlich hatten, habe ich darüber gesprochen, dass KI nicht dasselbe ist wie Social Media, als die Social-Media-Websites aufkamen. Aber ich hatte das Gefühl, dass wir wirklich gegen einige Mauern gestoßen sind und einige große Probleme hatten, bevor die Social-Media-Seiten sagten: Okay, wir müssen etwas dagegen tun. Ich habe das Gefühl, dass die Leute, die mit künstlicher Intelligenz zu tun haben, ein bisschen vorsichtiger sein sollten oder ein bisschen mehr Verantwortung tragen sollten, um sicherzustellen, dass wir es richtig machen. Das ist nur meine Meinung. Ich weiß nicht, ob Sie das auch so sehen.

Bill Wong:

Ich teile diese Ansicht. Es ist gut, dass es dieses Bewusstsein gibt, und die Leute wissen, dass es wichtig ist. Die Herausforderung besteht darin, dies umzusetzen, womit wir wieder bei der Reifekurve und der verantwortungsvollen KI wären. Ich denke, jeder muss versuchen, das Richtige zu tun. Wir können nicht erwarten, dass Gesetze das regeln. Das hat in der Vergangenheit nie funktioniert. Und wenn ich von großen Technologieunternehmen höre, denken einige von ihnen darüber nach, aber normalerweise können sie sich selbst regieren, um es höflich auszudrücken. Sie stellen Leute ein, die gut im Verkauf sind, gut im Programmieren. Sie stellen keine Leute ein, die über die sozialen Auswirkungen nachdenken. Deshalb sind Facebook oder Meta ein leichtes Ziel, wenn es darum geht, zu sagen, was falsch ist, weil sie einfach nicht die richtigen Leute haben, die diese Entscheidungen treffen. Ich könnte noch viel mehr sagen, aber ich denke, die großen Technologieunternehmen würden zustimmen, dass sie dafür nicht die besten Voraussetzungen haben. Wir müssen also selbst die Verantwortung übernehmen.

Und ob es ihnen gefällt oder nicht, wenn sie keine gute Arbeit leisten, werden die Regierungen nachgeben. Sie werden natürlich zögern, aber sie werden mit einem sehr stumpfen Gegenstand kommen und sagen: Hey, es macht keinen Unterschied, wenn wir die Innovation unterdrücken wollen. Es gibt einfach zu viele schlechte Akteure, schlechtes Verhalten da draußen. Wir werden eingreifen. Das ist die Kehrseite der Medaille, wenn wir nicht selbst etwas tun.

Dayle Hall:

Ja, das stimmt. Bevor wir weitermachen, möchte ich Ihnen noch ein paar Fragen stellen. Wir haben ein wenig über die Herausforderungen bei der Einführung von KI in einer Organisation gesprochen, und Sie haben darüber gesprochen, wo Sie gearbeitet haben, und über einige der Kunden. Ich möchte Ihnen ein paar spezielle Fragen stellen. Wir haben eine Umfrage darüber durchgeführt, wie die Mitarbeiter KI wahrnehmen. Ich werde jetzt nicht die ganze Umfrage durchgehen. Ich habe zwei spezielle Fragen. Die eine ist, dass etwa 70 % der Befragten der Meinung sind, dass ihr Unternehmen offen ist und die richtige Kultur hat, um KI im Unternehmen einzusetzen. Aber nur ein Drittel von ihnen glaubt, dass sie über die nötigen Fähigkeiten verfügen, um sie richtig zu implementieren und das Beste daraus zu machen.

Die meisten von uns glauben also, dass wir bereit sind, aber nur ein kleiner Teil glaubt, dass unsere Unternehmen bereit sind, sich damit zu befassen. Wenn Sie mit Kunden und Auftraggebern sprechen, ist das etwas, das bei Ihnen Anklang findet? Sehen sie das? Oder sehen sie es nicht? Was würden Sie ihnen raten, um sich vorzubereiten oder in der besten Position zu sein, insbesondere in Bezug auf die Fähigkeiten, wenn sie sich mit KI befassen wollen?

Bill Wong:

Ich habe die gleiche Perspektive. Ich habe das gesehen. Und wenn sie sagen, dass die Kultur bereit ist, bedeutet das hoffentlich, dass sie eine datengesteuerte Kultur haben, dass Daten als etwas behandelt werden, das ihnen hilft, bessere Entscheidungen zu treffen. Und ich habe Unternehmen gesehen, die innovative Dinge getan haben. Ein Krankenhaus-Forschungszentrum hat einen Physiker eingestellt, der sich mit Algorithmen vertraut gemacht hat und nun ihr eigener Datenwissenschaftler ist. Und ich glaube, ich bin optimistisch, weil es immer mehr Tools gibt, für die man kein Entwickler sein muss. Es ist ein no-code Ansatz. Ich denke, das wird dazu beitragen, die Herausforderungen beim Erwerb von Fähigkeiten zu verringern, wenn auch nicht ganz auszuschließen. Man braucht immer noch Leute, die hoffentlich in dieser Branche qualifiziert sind. Aber ja, es ist ein kleines Hindernis.

Ich denke, dass generative KI diese Hürde erheblich senkt. Auch hier erwarte ich also eine Menge innovativer Tools, für die man nicht unbedingt ein Datenwissenschaftler oder Python-Programmierer sein muss.

Dayle Hall:

Ja, ganz sicher. Die zweite Frage aus der Umfrage - wir haben die Leute gefragt, was ihrer Meinung nach die größten Vorteile sind. Und von allen, die wir gefragt haben, sagte etwa die Hälfte, dass sie glauben, dass es Zeit spart. Knapp die Hälfte sagte, dass sie auch die Produktivität verbessern würde. Und etwa ein Drittel gab an, dass dadurch Risiken oder Fehler bei der Arbeit verringert würden. Meine Frage an Sie lautet also: Was glauben die Menschen in den Unternehmen, was sie damit erreichen können, was sie wahrscheinlich gerne erreichen würden? Wenn Sie mit Kunden und Klienten sprechen, oder aus Ihrer Erfahrung mit den Unternehmen, für die Sie arbeiten, was raten Sie ihnen, sich zuerst die richtigen Ziele zu setzen? Kommen sie mit solchen Dingen zu Ihnen, wie z. B.: "Das wollen wir tun, wir wollen die Produktivität verbessern"? Haben sie spezifische Anwendungsfälle? Wie kommen sie auf Sie zu? Was erhoffen sie sich vom potenziellen Einsatz von KI?

Bill Wong:

Der größte Nutzen, den ich bieten kann, besteht darin, ihnen bei der Entwicklung einer Strategie für KI zu helfen. Und bei jeder Art von disruptiver Technologie brauchen Sie wirklich eine Geschäftsstrategie. Es handelt sich nicht um eine eigenständige Silo-Technologie, mit der die IT-Leute spielen können. Die Geschäftsleitung oder die Stakeholder des Unternehmens müssen herausfinden, was unsere Unternehmensmission ist und wie sich KI mit ihr vereinbaren lässt. Sind wir ein Unternehmen, das für Innovation bekannt ist? Dann kann KI zur Unterstützung der Arbeit eingesetzt werden, um sie produktiver zu machen. Sind wir ein Unternehmen, für das die niedrigsten Kosten das Beste sind, was wir für unsere Kunden tun können? Dann ist KI wahrscheinlich dazu da, Dinge zu automatisieren, manchmal auch, um vieles zu ersetzen, was Menschen tun. Es beginnt also alles mit der Strategie und aus der Geschäftsperspektive. Sobald diese feststeht, geht es um die Art und Weise, wie man sie einsetzt, um die daraus abgeleiteten Richtlinien.

Dayle Hall:

Das stimmt. Nein, das ist gut. Ich denke, es gibt so viele Umfragen dieser Art. Aber für mich ist es interessant, Ihre Sichtweise zu erfahren, weil ich denke, dass Sie wahrscheinlich an mehr dieser Gespräche über verschiedene Unternehmen hinweg beteiligt sind. Sie bringen also eine einzigartige Perspektive mit. Gibt es ein Projekt, an dem Sie in letzter Zeit gearbeitet haben und bei dem einige der von Ihnen gegebenen Hinweise zum geschäftlichen Nutzen zum Tragen kommen? Sie müssen keine Namen nennen, aber Sie konnten zeigen, dass KI dem Unternehmen wirklich geholfen hat, sei es bei der Erkundung oder der Verbreitung, bis hin zur Transformation. Es muss nicht die ganze Sache sein, aber können Sie einige Beispiele nennen, damit die Zuhörer möglicherweise auch darüber nachdenken können, ah, das ist ein Projekt, das ich machen könnte, oder unser Unternehmen könnte möglicherweise so etwas machen?

Bill Wong:

Ich möchte eine Einrichtung an der Universität von British Columbia erwähnen. Sie haben dort eine Reihe von Forschern. Vor ein paar Jahren hatten wir diese kleine Sache, die man Pandemie nennt.

Dayle Hall:

Ich hatte etwas darüber gehört.

Bill Wong:

Und sie wurden beauftragt, so viele wie möglich neue Therapien oder Behandlungen zu entwickeln. Die Arzneimittelforschung ist ein furchtbar komplexes Umfeld, in dem jedes Jahr Hunderte von Arzneimittelkandidaten geprüft werden. Und nach 10 Jahren und 3 Milliarden Dollar an Forschungsgeldern hat man vielleicht ein neues Medikament. Das ist also die Art der Pipeline. Die Frage, die sie beantworten wollten, war: Können wir das schneller machen? Wenn man die COVID-Forschung als Virus verfolgt hat, wurde ein großer Teil der Forschung darauf verwendet, wie wir die Wirkung des aktiven Virus aufheben können. Es gibt ein Forschungsgebiet, das molekulares Andocken genannt wird. Denken Sie an das Space Shuttle als Analogie: Wenn wir das Space Shuttle mit dem Labor verbinden, müssen die Astronauten, bevor sie zur Raumstation gelangen können, andocken, damit sie in das Fahrzeug einsteigen können.

Wenn es also um Viren geht, möchte man ein Molekül haben, das an das Virus andockt und seine Aktivität aufhebt, also molekulares Andocken. Die Herausforderung besteht also darin, dass es Milliarden von Molekülen zu testen gibt. Die Forscher nahmen also die gängigen Docking-Programme, mit denen sich vorhersagen lässt, wie gut ein Molekül ein Virus neutralisieren kann. Sie berechneten, dass die Rechenleistung nicht ausreicht. Selbst wenn sie die gesamte Rechenleistung zur Verfügung hätten, würde es Jahre dauern, das alles durchzuführen. Also dachte man sich, warum nutzen wir nicht Deep Learning zur Vorhersage von Docking-Ergebnissen, weil das Andocken so rechenintensiv ist. Das kostet natürlich eine Menge Zeit. Damals waren 40 Milliarden eine große Zahl - ich glaube, es ist immer noch eine große Zahl, aber das haben wir getan, 40 Milliarden. Wir haben also Deep Learning eingesetzt, um zu sagen: Wir werden es vorhersagen. Wir werden die Simulationen nicht physisch durchführen. Wir werden einfach Deep-Learning-KI-Algorithmen verwenden, um das vorherzusagen.

Auf diese Weise konnten sie recht schnell eine Art endliche Liste von Molekülen erstellen, die man testen sollte, um zu sehen, ob sie gegen das Virus wirksam sind. Sie waren die ersten, die in der angesehenen Wissenschaftszeitschrift Nature veröffentlicht haben, und nach und nach setzten immer mehr Forscher diese Technik ein, die sie Deep Docking nennen, eine Mischung aus molekularem Docking und Deep Learning.

Darauf bin ich besonders stolz, denn wenn ich mit Menschen spreche, die sich mit KI in den Biowissenschaften beschäftigen, haben wir alle das Gefühl, dass wir versuchen, das Leben der Menschen zu verbessern. Es geht um mehr als nur ums Geldverdienen. Ich bin sicher, dass man mit Medikamenten Geld verdienen kann, und natürlich sollten sie dafür entschädigt werden. Aber ich denke, die meisten Leute, mit denen ich zusammenarbeite, haben das Gefühl, dass wir etwas bewirken oder zumindest versuchen, etwas im Leben der Menschen zu bewirken. Sie waren so freundlich, mich als mitwirkenden Autor aufzunehmen. Für mich war das einer der Höhepunkte, ich habe dieses Projekt wirklich genossen.

Dayle Hall:

Ja, nein, das ist großartig. Wir haben vorhin schon ein wenig darüber gesprochen. Wir haben erwähnt, dass ich nicht glaube, dass Unternehmen an sich - keine bösen Absichten haben. Aber ich höre gerne von solchen Dingen wie dem Einsatz von KI in der medizinischen Forschung. Hoffentlich wird dies etwas sein, das die Welt zu einem besseren Ort machen wird. Und das klingt ein bisschen nach Mutterschaft und Apfelkuchen, ich weiß. Aber wenn etwas möglich ist, dann sollte es auch dafür eingesetzt werden. Ich habe einen 12-Jährigen und einen 15-Jährigen, und wir wollen hoffen, dass wir die Welt auf so viele Arten wie möglich verbessern können. Und dies ist ein interessanter Teil davon.

Und das bringt uns zu einem der wahrscheinlich heißesten Themen des Tages, das sich um generative KI und natürlich ChatGPT dreht. Meine 15-jährige Schülerin hat mich gefragt, ob sie das für ihre Hausaufgaben benutzen soll, worauf ich sagte, ich wüsste noch nicht, wie die Schulprinzipien aussehen. Aber ich habe gesagt, es ist ein Hilfsmittel, keine Lösung. Es sollte dir nicht die Arbeit abnehmen. Du solltest es trotzdem verstehen. Wir werden also sehen, wie das läuft.

Aber angesichts dessen und des Aufkommens anderer KI-Plattformen, was sind die Dinge, von denen Sie denken, dass sie heute genutzt werden sollten? Und worauf freuen Sie sich in naher Zukunft? Welche Möglichkeiten sehen Sie für etwas wie ChatGPT?

Bill Wong:

Ich bin wirklich begeistert von der Möglichkeit der generativen KI oder davon, diese Art von Kreativität für die breite Masse zugänglich zu machen. Wie wahrscheinlich viele Leute verbringe ich viel Zeit damit, das System auszutricksen und zu sehen, wo es hinfällt. Aber ich denke, mit der Zeit wird es immer besser werden.

Ich denke, dass der normale Anwendungsfall, für den man KI sieht, auch von generativer KI unterstützt werden wird. Ich denke, der Einstieg wird einfacher sein. Wie ich bereits erwähnt habe, ist die Datenbeschaffung ein universelles Problem, das ich gesehen habe. Aber was wäre, wenn Sie das System bitten könnten, synthetische Daten für Sie zu generieren, um Ihr Modell zu testen? Diese Hürde hat die Frage, wie gut synthetische Daten sind, sicherlich verringert. Aber auch hier denke ich, dass die Verbreitung dieser Technologie mit der Zeit sehr vielversprechend ist.

Wir haben gerade mit Institutionen gesprochen, die mit Problemen zu kämpfen haben, wie zum Beispiel im Bildungsbereich. Sie versuchen herauszufinden, was sie tun sollen. Es gibt einige, die es komplett verbieten. Man kann sie also nicht benutzen. Und auf lange Sicht funktioniert das Verbot von Technologie im Allgemeinen nicht. Die Menschen werden Umgehungsmöglichkeiten finden. Die Bildungseinrichtungen werden gezwungen sein, die Art und Weise, wie sie unterrichten, zu ändern. Das mag vielleicht etwas altmodisch sein, aber man muss mit den Leuten reden, sie auffordern, miteinander zu kommunizieren, in kleinen Gruppen zu überlegen, was man vor Ort tun kann, ohne auf irgendeine Art von Computerplattform zuzugreifen. Denn das ist es, was sie im wirklichen Leben tun werden.

Dayle Hall:

Sie haben es erwähnt. Ich glaube nicht, dass man Innovationen aufhalten oder verbieten sollte - ob wir sie mögen oder nicht, sie werden ihren Weg finden. Sie wird ihren Weg hinein finden. Und das führt zu dem zurück, worüber wir vorhin gesprochen haben, Bill, nämlich dass wir alle verantwortungsvoll damit umgehen sollten. Wir sollten alle verstehen, dass jeder von uns ein gewisses Maß an Verantwortung trägt. Es geht nicht nur darum, dass alle Hochschuleinrichtungen Maßnahmen ergreifen oder es verbieten müssen oder wie sie damit umgehen sollen. Wir sollten sie alle auf die richtige Weise nutzen. Und ich denke, wenn wir so handeln können - wie Sie sagten, machen große Unternehmen Fehler. Wir werden alle einige Fehler machen. Einige höhere Stellen werden Fehler machen. Aber ich denke, das wird schon in Ordnung sein.

Sehen Sie außerhalb des Hochschulsektors eine bestimmte Branche, die das Thema wirklich aufgreift und vorantreibt, wie wir es nennen, vertikale Lösungen? Offensichtlich haben die Technologieunternehmen das Thema ziemlich schnell aufgegriffen. Ich habe angefangen, E-Mails von Vertriebsentwicklern zu bekommen, die mir einfach eine E-Mail schicken und sagen: "Hey, wir sind das Chat GPT der Vertriebspipeline. Da sage ich: Stopp, stopp, stopp. Wir brauchen keine ChatGPT-Wäsche. Aber abgesehen von Tech-Unternehmen, wer könnte Ihrer Meinung nach das Potenzial haben, dies wirklich voranzutreiben?

Bill Wong:

Ich denke, die niedrig hängenden Früchte für die Industrie sind diejenigen, die textbasiert sind. Das ist die einfachste Variante. Es gibt auch andere, wie zum Beispiel bildbasierte Videos. Das sind sicherlich mächtige Dinge, aber ich denke, das einfachste ist Text. Beispiele dafür sind Unternehmen, die Sie mit der Erstellung von, sagen wir, Marketingtexten oder neuen Produktbeschreibungen beauftragen. ChatGPT könnte die Arbeit von 100 Leuten erledigen. Zumindest diese Art von Aufgaben müssen nicht mehr von Menschen erledigt werden. Ich habe gesehen, dass sich einige Anwaltskanzleien diese Technologie genau angesehen haben, um sie zu trainieren. Sie können, sagen wir, ChatGPT im Vorfeld mit einer Persona anpassen, die Sie erstellen können und die Juristensprache versteht. Erwarten Sie also, dass der Scan auch kommen kann.

Bei jeder Art von Forschung, selbst in meinem Beruf, gibt es Debatten: Warum sollte ich einen Analysten einstellen, wenn ich alles von ChatGPT bekomme? Aber das Risiko und die Herausforderung besteht nach wie vor darin, dass man diese Informationen überprüfen muss. Sie stammen alle aus dem Internet. Wir wissen, dass vieles davon voreingenommen und ungenau ist. Wir haben Leute, die das überprüfen. Die Technologiebranche ist die Art von Industriezweigen, die sich immer mehr durchsetzt. Die Zeitungen und der Journalismus haben damit begonnen, etwas davon zu sehen, Leute schreiben Blogs usw.

Dayle Hall:

Ja. Ich glaube, wir haben ein paar Dinge ausprobiert, z. B. Blogs und wie das funktioniert. Es braucht definitiv mehr Spezifität. Es braucht eine verantwortliche Person. Denn alles kann sich gleich anhören, weil es theoretisch gleich sein wird, weil es von der gleichen Quelle kommt. Es gibt also sehr wenig Differenzierung, wenn man es so macht. Aber es hat definitiv eine Menge Vorteile. Es wird also interessant sein zu sehen, wohin das führt.

Lassen Sie uns nun ein wenig über verantwortungsvolle KI sprechen. Wir haben bereits einige Punkte zur Erklärbarkeit und Transparenz von KI im Allgemeinen erwähnt. Ich glaube, ich habe das falsche Wort gesagt: unüberwachte Algorithmen.

Bill Wong:

Das ist eine Art von KI-Algorithmus. Die Grundlagen der verantwortungsvollen KI, die wir gesehen haben - es gibt eine Menge gemeinnütziger Organisationen und Regierungsinitiativen - haben sich auf sechs Hauptthemen konzentriert. Wenn wir also mit Kunden über die Dinge sprechen, die wir als Datenschutz bezeichnet haben, respektiert der Algorithmus den Datenschutz und die persönliche Privatsphäre? Ist der Algorithmus fair, unvoreingenommen? Dann erwähnten Sie zuvor die Erklärbarkeit, die Transparenz.

Bei den letzten drei geht es um das System, das Sie aufbauen: Ist es sicher, sicher? Manchmal wird dies auch als Robustheit bezeichnet. Und dann die Verwaltung, die Verwaltung Ihrer Daten, die Verwaltung Ihres Modells. Und der letzte Punkt, der sehr wichtig ist, ist die Rechenschaftspflicht. Auch wenn Sie es einfach einsetzen und sagen können: "Hey, das ist nur der Algorithmus", so muss doch jemand, irgendwo, irgendeine Organisation dafür verantwortlich sein, wenn etwas schief geht, wenn ein Fehler vorliegt. Das ist die Organisation, an die man sich wendet, um die Verantwortung für diese Aktionen zu übernehmen.

Wenn ich sage, dass man damit anfängt, und dann bestimmte Branchen wie das Gesundheitswesen oder das Rechtswesen viel mehr Probleme mit der Einhaltung von Vorschriften haben, dann fällt das in den Bereich der verantwortungsvollen KI. Aber das ist die Grundlage, die wir unabhängig von der jeweiligen Branche sehen.

Dayle Hall:

Ohne Namen zu nennen, aber wenn Sie mit Klienten oder Kunden sprechen, oder wenn Sie diese Art von Arbeit machen, wenn Sie in den Anbieterorganisationen sind, kommt das Konzept der verantwortungsvollen KI proaktiv zur Sprache? Hören Sie Dinge, zu denen Sie dann sagen müssen: "Wir müssen darüber nachdenken, wie wir sie auf diese Weise nutzen.

Und wir haben vorhin darüber gesprochen, dass Unternehmen und Menschen in Unternehmen es schwer haben, sich in dieser Hinsicht selbst zu verwalten. Ich sage also nicht, dass sich jeder damit befassen sollte, aber haben Sie das Gefühl, dass Sie diese Punkte immer noch ansprechen müssen, wenn Sie mit Kunden und Auftraggebern sprechen?

Bill Wong:

Ich denke, es ist das Letztere. Ich gehe nicht davon aus, dass es eine schöne Welt wäre, wenn jeder zu der Erkenntnis käme, dass dies das Beste für den Kunden und das Unternehmen ist. Aber wenn ich ganz ehrlich sein soll, denken manche Leute, wenn man das Wort Ethik oder Prinzipien in den Mund nimmt, dass dies die Innovation und die Akzeptanz bremsen wird. Manche. Aber ich bin optimistisch, dass es durch Aufklärung einen Business Case dafür gibt, dass es schlecht für das Geschäft ist, wenn man es nicht tut, dass es langfristig in Ihrem Interesse ist, diese Prinzipien zu übernehmen.

Dayle Hall:

Ja, nein, ich denke, das ist fair, denn vieles davon ist eine neue Innovation, und es sind Dinge, die wir nicht unbedingt erlebt haben. Ich erwarte nicht, dass jeder weiß, was er mit ethischer KI machen sollte, oder dass er dafür sorgt, dass sie verantwortungsvoll ist. Ich finde es ermutigend, dass Leute wie Sie und einige andere Koryphäen der KI, mit denen wir in diesem Podcast gesprochen haben, darüber nachdenken und versuchen, dafür zu sorgen, dass - mit einem haben wir vor kurzem gesprochen - sie weltweite Gruppen gründen, in denen wir, die Menschen, darüber sprechen, wie diese Regeln und Verantwortlichkeiten aussehen sollten. Und ich finde das großartig. Wir sollten von Anfang an daran beteiligt sein.

Wenn Sie in Ihre Organisationen gehen und sie fragen, geben Sie ihnen dann die Grundsätze im Voraus bekannt? Gehen Sie nicht davon aus und sagen einfach SnapLogic? Was sind die Fragen, die wir uns stellen sollten, wenn wir anfangen, KI zu nutzen?

Bill Wong:

Legen Sie eine Geschäftsstrategie für KI fest und wählen Sie dann aus, welches Ihre Leitprinzipien für die Zukunft sind. Daran orientieren Sie sich bei der Auswahl der Technologie und achten bei der Entwicklung des Modells darauf, dass Sie diese Grundsätze berücksichtigen. Sie wollen also sicherstellen, dass Sie sich bei der Beschaffung von Daten um Dinge wie die Datenherkunft kümmern, damit Sie wissen, woher die Daten stammen, so dass Sie, wenn jemand fragt, ob diese Daten vertrauenswürdig sind, ob sie unvoreingenommen sind, Tools auswählen, die dabei helfen können, die von Ihnen angenommenen Grundsätze zu stärken und umzusetzen.

Dayle Hall:

Ja, das ist interessant. Nein, das ist interessant. Okay, letzte Frage zum Abschluss des Podcasts. Was ist die innovativste oder aufregendste Sache, die Sie in den nächsten zwei bis drei Jahren in diesem speziellen Bereich erwarten oder auf die Sie sich freuen? Das kann etwas Praktisches sein, aber auch etwas völlig Visionäres. Aber wenn wir den Podcast beenden, worüber freut sich Bill wirklich, was wir in nächster Zeit auf dem Bildschirm sehen könnten?

Bill Wong:

Es ist möglich - okay, das ist also nur mein eigener Wunsch nach der Technologie. Ich glaube, jeder liebt eine großartige Geschichte und hat Schwierigkeiten, sie zu formulieren. Mit dieser Technologie kann man sagen: "Ich möchte meinen eigenen Star-Trek-Film machen. Ich möchte neue Raumschiffe, wie man sie in der Sternenflotte sieht. Und Sie definieren die Charaktere und die Handlung. Und das könnte man dann von der Software erstellen lassen. Das wäre für mich einfach meine Linie. Und ich denke, dass die Bausteine vorhanden sind, bis wir unsere Holodecks haben. Aber ja.

Dayle Hall:

Ich möchte immer, dass es Jean-Luc Picard ist. Vielleicht könnte ich also - hoffentlich mit etwas mehr Haar - sein. Aber im Allgemeinen denke ich, dass es toll wäre, wenn so etwas verwirklicht werden könnte. Ich sehe mir diese Dinge an und denke an meine 12- und 15-Jährigen, wenn sie ins Berufsleben eintreten, wenn sie anfangen zu arbeiten, was auch immer sie tun werden, aber was für eine Welt sie mit einigen dieser Möglichkeiten jetzt betreten werden.

Bill Wong:

Irgendwie beneide ich sie darum. Aber wir werden hoffentlich noch viel davon miterleben. Und ich glaube, das ist gar nicht mehr so weit in der Zukunft.

Dayle Hall:

Das hoffe ich auch. Nun, Bill, ich danke Ihnen vielmals. Ich weiß es zu schätzen, dass Sie heute Teil dieses Podcasts sind. Wie gesagt, ich liebe diese Diskussionen. Sie lenken mich von meinem Alltag ab, in dem ich versuche, Menschen Software zu verkaufen und Software zu vermarkten. Ich weiß das wirklich zu schätzen. Bill, vielen Dank, dass Sie heute bei diesem Podcast dabei sind.

Bill Wong:

Danke, Dayle. Herzlichen Dank. Und wenn Sie Fragen haben, wenden Sie sich bitte an uns.

Dayle Hall:

Wir werden auf jeden Fall dafür sorgen, dass Ihre Kontakte an die Öffentlichkeit gelangen, wenn wir diesen Beitrag online stellen. Vielen Dank an alle, die bei diesem letzten Podcast von Automating the Enterprise zugehört haben. Wir sehen uns in der nächsten Folge wieder.