John Jantsch (00:00): Hey, wussten Sie, dass die jährliche Inbound-Konferenz von HubSpot bevorsteht?Das ist richtig. Es wird vom 5. bis 8. September in Boston stattfinden. Jedes Jahr bringt Inbound Führungskräfte aus den Bereichen Business, Vertrieb, Marketing, Kundenerfolg, Betrieb und mehr zusammen. Sie werden in der Lage sein, die neuesten Trends und Taktiken zu entdecken, die Sie unbedingt umsetzen können, um Ihr Unternehmen nachhaltig zu skalieren. Sie können von Branchenexperten lernen und sich von unglaublichen Spotlight-Talenten inspirieren lassen. In diesem Jahr werden Größen wie Reese Witherspoon, Derek Jeter und Guy Raz auftreten. Besuchen Sie inbound.com und sichern Sie sich noch heute Ihr Ticket. Es wird Ihnen nicht leid tun. Dieses Programm wird garantiert inspirieren und neue Energie tanken. Das ist richtig. Gehen Sie noch heute auf inbound.com, um Ihr Ticket zu erhalten.

(01:03): Hallo und willkommen zu einer weiteren Folge des Duct Tape Marketing Podcasts.Das ist John Jantsch. Mein heutiger Gast ist Kenneth Wenger. Er ist Autor, Forschungswissenschaftler an der Toronto Metropolitan University und CTO von Squint AI Inc. Seine Forschungsinteressen liegen in der Schnittstelle von Mensch und Maschine und stellen sicher, dass wir eine Zukunft aufbauen, die auf dem verantwortungsvollen Einsatz von Technologie basiert. Wir werden heute über sein Buch Is the Algorithm Plotting Against Us?: A Layperson's Guide to the Concepts, Math, and Pitfalls of AI sprechen. Also, Ken, willkommen in der Show.

Kenneth Wenger (01:40): Hallo John.Vielen Dank. Danke für die Einladung.

John Jantsch (01:42): Also, wir werden über das Buch reden, aber ich bin nur neugierig, was, was macht Squint AI?

Kenneth Wenger (01:47): Das ist eine tolle Frage.Also, Squint AI, ähm, ist ein Unternehmen, das wir gegründet haben, um, ähm, etwas zu recherchieren und eine Plattform zu entwickeln, die es uns ermöglicht, ähm,

(02:00): Machen Sie KI auf eine verantwortungsvollere Art und Weise.Okay. Okay. Also, äh, ich bin mir sicher, dass wir darauf näher eingehen werden, aber ich spreche es auch in vielen Fällen im Buch an, wo wir über, äh, KI, den ethischen Einsatz von KI und einiges davon sprechen Stürze der KI. Und was wir mit Squint machen, ist, herauszufinden, wie wir versuchen, eine Umgebung zu schaffen, die es uns ermöglicht, KI so zu nutzen, dass wir verstehen, wann diese Algorithmen nicht funktionieren am besten, wenn sie Fehler machen und so weiter. Ja,

John Jantsch (02:30): Ja.Der Titel Ihres Buches lautet also „The Algorithm Plotting Against“. Das ist eine etwas provokante Frage. Ich meine, natürlich bin ich mir sicher, dass es da draußen Leute gibt, die Nein sagen , und einige sagen, nun ja, auf jeden Fall. Warum also dann die Frage stellen?

Kenneth Wenger (02:49): Nun, weil ich tatsächlich das Gefühl habe, dass dies eine Frage ist, die von vielen verschiedenen Menschen mit tatsächlich unterschiedlicher Bedeutung gestellt wird.Rechts? Es ist also fast dasselbe wie die Frage: Stellt KI eine existenzielle Bedrohung dar? Ich, ich, es ist eine Frage, die für verschiedene Menschen unterschiedliche Bedeutungen hat. Rechts. Deshalb wollte ich in dem Buch darauf eingehen und versuchen, zwei Dinge zu tun. Bieten Sie den Menschen zunächst die Werkzeuge an, mit denen sie diese Frage selbst verstehen können, richtig. Und zuerst herausfinden, wie und wo sie in dieser Debatte stehen, und dann, ähm, wissen Sie, nebenbei auch meine Meinung äußern.

John Jantsch (03:21): Ja, ja.Und wahrscheinlich habe ich diese Frage nicht so elegant gestellt, wie ich es gerne hätte. Eigentlich finde ich es toll, dass Sie die Frage stellen, denn letztlich geht es uns darum, die Menschen ihre eigenen Entscheidungen treffen zu lassen, anstatt zu sagen: „Das gilt für KI oder das gilt nicht für KI.“ . Rechts.

Kenneth Wenger (03:36): Das stimmt.Das ist richtig. Und, und, und noch einmal, vor allem, weil es sich um ein nuanciertes Problem handelt. Ja. Und es bedeutet für verschiedene Menschen unterschiedliche Dinge.

John Jantsch (03:44): Das ist also eine wirklich schwierige Frage, aber ich frage Sie, wissen Sie, wo stehen wir wirklich im Kontinuum der KI?Ich meine, Leute, die sich schon seit vielen Jahren mit diesem Thema befassen, wissen, dass es in vielen Dingen eingebaut ist, die wir jeden Tag nutzen und für selbstverständlich halten. Offensichtlich haben wir mit ChatGPT ein ganz anderes Spektrum an Leuten zusammengebracht, die es jetzt, wissen Sie, zumindest getan haben ein sprechendes Vokabular dessen, was es ist. Aber ich erinnere mich, dass ich seit 30 Jahren mein eigenes Unternehmen habe. Ich meine, wir hatten kein Internet , wir hatten keine Websites, wissen Sie, wir hatten keine mobilen Geräte, die jetzt sicherlich eine Rolle spielen, aber ich erinnere mich, dass die Leute bei jedem dieser neuen Geräte dachten: „Oh, wir sind dem Untergang geweiht.“ Es ist aus . Rechts. Derzeit gibt es also viel von dieser Art von Sprache rund um die KI, aber wo stehen wir Ihrer Meinung nach wirklich im Kontinuum der Entwicklung?

Kenneth Wenger (04:32): Wissen Sie, das ist eine tolle Frage, denn ich denke, wir sind eigentlich noch ganz am Anfang.Ja. Ich glaube, wissen Sie, wir haben in sehr kurzer Zeit bemerkenswerte Fortschritte gemacht, aber ich denke, wir befinden uns immer noch in einem sehr frühen Stadium. Wissen Sie, wenn Sie an die KI denken, wo wir jetzt sind, wo wir vor einem Jahrzehnt waren, haben wir einige Fortschritte gemacht. Aber ich denke, im Grunde haben wir auf wissenschaftlicher Ebene gerade erst begonnen, an der Oberfläche zu kratzen. Ich gebe Ihnen einige Beispiele. Anfangs, wissen Sie, waren die ersten Modelle großartig darin, uns wirklich einen Beweis dafür zu liefern, dass diese neue Art, Fragen zu stellen, im Wesentlichen die, äh, neuronalen Netze sind. Ja ja. Rechts. Es sind sehr komplexe Gleichungen. Äh, wenn man GPUs verwendet, um diese komplexen Gleichungen auszuführen, dann können wir tatsächlich ziemlich komplexe Probleme lösen. Das ist etwas, was uns etwa im Jahr 2012 und dann etwa im Jahr 2017 klar wurde, sodass der Fortschritt zwischen 2012 und 2017 sehr linear verlief.

(05:28): Wissen Sie, es wurden neue Modelle erstellt, neue Ideen vorgeschlagen, aber die Dinge skalierten und entwickelten sich sehr linear.Aber nach 2017, mit der Einführung des Modells namens Transformer, das die Basisarchitektur hinter Chat, G, Pt und all diesen großen Sprachmodellen darstellt, hatten wir eine andere Art von Erkenntnis. Da wurde uns klar, dass sie exponentiell besser werden, wenn man diese Modelle nimmt und sie im Hinblick auf die Größe des Modells und die Größe des Datensatzes, mit dem wir sie trainiert haben, immer weiter skaliert. Okay. Und dann sind wir an dem Punkt angelangt, an dem wir heute sind, wo uns klar wurde, dass wir allein durch die Skalierung noch einmal seit 2017 nichts grundlegend anderes gemacht haben. Wir haben lediglich die Größe des Modells erhöht, die … Größe des Datensatzes, und sie werden exponentiell besser.

John Jantsch (06:14): Also Multiplikation statt Addition?

Kenneth Wenger (06:18): Nun ja, genau.Ja. Das ist also nicht der Fall, der Fortschritt war exponentiell, nicht nur im linearen Verlauf. Ja. Ich denke jedoch, dass die Tatsache, dass wir an diesen Modellen nicht viel grundlegend geändert haben, sehr bald nachlassen wird. Es ist meine Erwartung. Und wo stehen wir nun auf der Zeitachse? Das war Ihre ursprüngliche Frage. Ich denke, wenn man darüber nachdenkt, was die Models heute machen, dann sind sie sehr erfolgreich. Sie erstellen im Wesentlichen sehr einfache Statistiken. Mm-hmm. Sie sind nicht die Idee, dass diese Modelle künstliche Intelligenz genannt werden. Rechts. Ich denke, das ist manchmal eine etwas irreführende Bezeichnung. Ich stimme zu. Und es führt zu einigen der Fragen, die die Leute haben. Ähm, denn da gibt es nicht so viel wie Deep Intelligence, es ist nur statistische Modellierung und noch dazu sehr einfach. Und dann, wohin wir von hier aus gehen und wie die Zukunft hoffentlich aussehen wird, dann fangen wir an, ich denke, die Dinge werden sich dramatisch ändern, wenn wir anfangen, Modelle zu bekommen, die nicht nur in der Lage sind, nicht nur einfache Statistiken zu erstellen, sind aber in der Lage, den Kontext dessen zu verstehen, was sie erreichen wollen. Ja. Und sind in der Lage, sowohl die richtige als auch die falsche Antwort zu verstehen. So können sie zum Beispiel wissen, wann sie über Dinge sprechen, die sie kennen, und wenn sie diese Grauzone der Dinge umgehen, von denen sie nicht wirklich wissen. Ist das sinnvoll? Ja,

John Jantsch (07:39): Auf jeden Fall.Ich meine, ich stimme Ihnen in Bezug auf künstliche Intelligenz voll und ganz zu. Ich habe es tatsächlich ia genannt. Ich denke, es ist eher eine informierte Automatisierung. So sehe ich das zumindest in meiner Arbeit. Sehen Sie einen Tag, an dem, wissen Sie, Aufforderungen, Fragen zu stellen, für viele Menschen so etwas wie der Straßengebrauch von KI ist, wenn Sie so wollen? Sehen Sie einen Tag, an dem es anfängt, Ihnen Fragen zu stellen? Warum willst du das wissen? Oder was wollen Sie mit dieser Frage erreichen?

Kenneth Wenger (08:06): Ja.Die einfache Antwort lautet also: Ja. Das tue ich auf jeden Fall. Und ich denke, das ist ein Teil davon, wie es wäre, eine höhere Intelligenz zu erreichen. Wenn sie nicht nur Ihren Befehlen gehorchen, ist es nicht nur ein Werkzeug. Ja ja. Äh, aber sie haben irgendwie ihren eigenen Zweck, den sie zu erreichen versuchen. Und dann würden Sie sehen, dass Dinge wie Fragen im Wesentlichen aus dem System entstehen, oder? Wenn sie ein, ein, ein Ziel haben, das sie erreichen wollen, nämlich, wissen Sie, und dann überlegen sie sich einen Plan, um dieses Ziel zu erreichen. Dann können Sie sehen, wie Dinge wie Fragen an Sie auftauchen. Ich glaube nicht, dass wir schon so weit sind, aber ja, ich denke, es ist durchaus möglich.

John Jantsch (08:40): Aber das ist doch auch die Science-Fiction-Version, oder?Ich meine, wenn die Leute anfangen zu sagen, du weißt schon, in den Filmen, dann ist es so, als würde man sagen: Nein, nein, Ken, diese Informationen erfährst du noch nicht. Ich werde entscheiden, wann du das wissen kannst .

Kenneth Wenger (08:52): Nun, Sie haben recht.Ich meine, die Frage, so wie Sie sie gestellt haben, lautete eher: Ist das prinzipiell möglich? Ich denke absolut. Ja. Ja. Wollen wir das? Ich meine, ich, ich weiß es nicht. Ich denke, das gehört dazu, ja, es hängt davon ab, über welchen Anwendungsfall wir nachdenken. Äh, aber aus der Perspektive des ersten Prinzips: Ja, das ist es, es ist sicherlich möglich. Ja. Nicht um ein Model dazu zu bringen

John Jantsch (09:13): Tun Sie das.Ich glaube also, dass es Dutzende von Menschen gibt, die KI nur verstehen, wenn ich an diesen Ort gehe, wo es ein Feld gibt, ich eine Frage eingebe und sie eine Antwort ausspuckt. Da der Titel sowohl Laien als auch Mathematik enthält, könnten Sie uns eine Art Laienversion davon geben, wie das funktioniert?

Kenneth Wenger (09:33): Ja, absolut.Na ja, zumindest werde ich es versuchen, ich sage es mal so: , als ich vor ein paar Augenblicken erwähnte, dass es sich bei diesen Modellen im Wesentlichen um sehr einfache statistische Modelle handelt. Das selbst, dieser Satz selbst, ist ein bisschen umstritten, denn letzten Endes wissen wir nicht, über welche Art von Intelligenz wir verfügen, oder? Wenn Sie also über unsere Intelligenz nachdenken, wissen wir nicht, ob wir auf einer bestimmten Ebene auch ein statistisches Modell sind, oder? Was ich jedoch heute damit meine, dass KI in großen Sprachmodellen wie ChatGPT einfache statistische Modelle sind, ist, dass sie eine sehr einfache Aufgabe ausführen. Wenn Sie also an ChatGPT denken, versuchen sie im Wesentlichen, das nächstbeste Wort in einer Sequenz vorherzusagen. Das ist alles, was sie tun. Und die Art und Weise, wie sie das tun, ist, dass sie die sogenannte Wahrscheinlichkeitsverteilung berechnen.

(10:31): Grundsätzlich berechnen sie für jedes Wort in a, in a, in einer Eingabeaufforderung oder in einem Textkorpus die Wahrscheinlichkeit, dass das Wort in diese Reihenfolge gehört.Rechts? Und dann wählen sie das nächste Wort mit der höchsten Wahrscheinlichkeit, dort richtig zu sein. Okay? Nun, das ist ein sehr einfaches Modell im folgenden Sinne. Wenn Sie darüber nachdenken, wie wir kommunizieren, richtig? Wissen Sie, wir führen gerade ein Gespräch. Ich denke, wenn du mir eine Frage stellst, halte ich inne und denke darüber nach, was ich gleich sagen werde, oder? Ich habe also ein Modell der Welt und ich verfolge ein Ziel in diesem Gespräch. Ich überlege mir, worauf ich antworten möchte, und nutze dann meine Fähigkeit, Worte hervorzubringen und sie auszuloten, um Ihnen das mitzuteilen. Rechts? Es könnte sein, dass ich ein System in meinem Gehirn habe, das einem großen Sprachmodell in dem Sinne sehr ähnlich ist, dass, sobald ich anfange, Wörter zu sagen, das nächste Wort, das ich sagen werde, das wahrscheinlichste ist um richtig zu sein, angesichts der Worte, die ich gerade gesagt habe.

(11:32): Es ist sehr gut möglich.Das ist richtig. Der Unterschied besteht jedoch darin, dass ich zumindest bereits einen Plan dafür habe, was ich in einem latenten Raum sagen werde. Ich habe es bereits in irgendeiner Form codiert. Was ich vermitteln möchte, wie ich es sage, ist, dass die Fähigkeit eines Profis, diese Wörter zu produzieren, einem Sprachmodell sehr ähnlich sein könnte. Der Unterschied besteht jedoch darin, dass ein großes Sprachmodell versucht, herauszufinden, was es sagen wird, und gleichzeitig diese Wörter zu finden. Mm-hmm. , Rechts? Ist das sinnvoll? Es ist also ein bisschen so, als würden sie schwafeln, und manchmal, wenn sie zu lange reden, schwafeln sie auf dem Gebiet des Unsinns. Ja. Ja. Weil sie nicht wissen, was sie sagen werden, bis sie es sagen. . Ja. Das ist also ein sehr grundlegender Unterschied. Ja.

John Jantsch (12:20): Ich, ich, ich habe sicherlich einige Ausgaben gesehen, die in dieser Richtung ziemlich interessant sind.Aber, wissen Sie, als ich Sie darüber reden hörte, meine ich, dass wir in vielerlei Hinsicht eine Datenbank mit dem abfragen, was uns beigebracht wurde, also mit den Wörtern, die wir verwenden Wir wissen zusätzlich zu den Konzepten, die wir studiert haben, und sind in der Lage, sie zu artikulieren. Ich meine, in gewisser Weise fragen wir das bei mir ab, fordern es auf oder ich stelle Ihnen auch eine Frage, ich meine, es funktioniert ähnlich. Würdest du sagen

Kenneth Wenger (12:47): Der Aspekt, eine Frage zu stellen und sie dann zu beantworten, ist ähnlich, aber der Unterschied ist das Konzept, das Sie beschreiben möchten.Wenn Sie mir also eine Frage stellen, denke ich darüber nach und komme zu dem Schluss, dass ich wieder ein Weltmodell habe, das soweit funktioniert, dass es mir hilft, durchs Leben zu kommen, oder? Und dieses Weltmodell ermöglicht es mir, verschiedene Konzepte auf unterschiedliche Weise zu verstehen. Und wenn ich dabei bin, Ihre Frage zu beantworten, denke ich darüber nach, formuliere eine Antwort und finde dann einen Weg, diese mit Ihnen zu kommunizieren. Okay? Dieser Schritt fehlt bei dem, was diese Sprachmodelle tun, oder? Sie erhalten eine Aufforderung, aber es gibt keinen Schritt, in dem sie eine Antwort mit einem bestimmten Ziel formulieren, oder? Rechts? Ja. Irgendein Zweck. Sie erhalten im Wesentlichen einen Text und versuchen, eine Folge von Wörtern zu generieren, die während der Produktion herausgefunden werden, nicht wahr? Es gibt keinen endgültigen Plan. Das ist also ein sehr grundlegender Unterschied.

John Jantsch (13:54): Und jetzt hören wir noch ein Wort von unserem Sponsor, Marketing Made Simple.Es handelt sich um einen Podcast, der von Dr. J. J. Peterson moderiert wird und Ihnen vom HubSpot Podcast Network präsentiert wird, dem Audio-Ziel für Geschäftsprofis, bei dem Marketing leicht gemacht wird. Er bietet Ihnen praktische Tipps, um Ihr Marketing zu vereinfachen und, was noch wichtiger ist, dafür zu sorgen, dass es funktioniert. Und in einer aktuellen Folge unterhalten sich JJ und April mit von StoryBrand zertifizierten Guides und Agenturinhabern darüber, wie man ChatGPT für Marketingzwecke nutzen kann. Wir alle wissen, wie wichtig das heute ist. Hören Sie sich Marketing leicht gemacht an. Wo auch immer Sie Ihre Podcasts bekommen.

(14:30): Hey, Inhaber einer Marketingagentur, wissen Sie, ich kann Ihnen die Schlüssel zur Verdoppelung Ihres Geschäfts in nur 90 Tagen oder zu Ihrem Geld zurück beibringen.Hört sich interessant an. Alles, was Sie tun müssen, ist, unseren dreistufigen Prozess zu lizenzieren, der es Ihnen ermöglicht, Ihre Konkurrenten irrelevant zu machen, einen Aufpreis für Ihre Dienste zu verlangen und möglicherweise ohne zusätzliche Gemeinkosten zu skalieren. Und hier ist das Beste daran. Sie können das gesamte System für Ihre Agentur lizenzieren, indem Sie einfach an einem bevorstehenden Intensivkurs zur Agenturzertifizierung teilnehmen. Warum das Rad erschaffen? Nutzen Sie eine Reihe von Tools, für deren Entwicklung wir über 20 Jahre gebraucht haben. Und Sie können sie noch heute haben, schauen Sie sich das an unter dtm.world/certification. Das ist die DTM-World-Slash-Zertifizierung.

(15:18): Ich möchte wirklich mögen, was die Zukunft bringt, aber ich möchte auf ein paar Dinge eingehen, auf die Sie in dem Buch eingehen.Was sind die, wissen Sie, außer der Art von Angst, die die Medien verbreiten? , was sind die wirklichen und offensichtlichen Fallstricke, wenn man sich auf KI verlässt?

Kenneth Wenger (15:38): Ich denke, das größte Problem und einer der, ich meine, der eigentliche Beweggrund für mich, als ich mit dem Schreiben des Buches begann, ist, dass es aus zwei Gründen ein leistungsstarkes Werkzeug ist.Es ist scheinbar sehr einfach zu bedienen, oder? Ja. Sie können ein Wochenende damit verbringen, Python zu lernen, Sie können ein paar Zeilen schreiben und Sie können Daten transformieren, analysieren und analysieren, was vorher nicht möglich war, indem Sie einfach eine Bibliothek verwenden. Sie müssen also nicht wirklich verstehen, was Sie tun, und können ein Ergebnis erzielen, das nützlich aussieht, okay? Mm-hmm. , aber Erhitzen dabei, oder? Die Tatsache, dass man viele Daten, große Datenmengen, auf irgendeine Weise modifizieren und eine Antwort oder ein Ergebnis erhalten kann, ohne zu verstehen, was dazwischen passiert, hat enorme Auswirkungen darauf, dass man die Ergebnisse, die man erhält, missversteht , Rechts? Und wenn Sie dann diese Tools in einer, der Welt verwenden, richtig?

(16:42): Auf eine Weise, die andere Menschen beeinflussen kann.Nehmen wir zum Beispiel an, Sie arbeiten in einem Finanzinstitut und, und, und, und Sie überlegen sich ein Modell, um herauszufinden, wem Sie Anerkennung schenken sollten, wem Sie, Sie wissen schon, Anerkennung verschaffen sollten für, für einen Kredit für eine Kreditlinie, und für wen Sie das nicht tun sollten. Nun, im Moment haben Banken ihre eigenen Modelle, aber wenn man die KI herausnimmt, werden diese Modelle traditionell von Statistikern durchdacht, und es kann sein, dass sie hin und wieder etwas falsch machen, aber zumindest haben sie eine große Stellen Sie sich vor, was es bedeutet, Daten zu analysieren und die Daten zu verzerren, oder? Welche Auswirkungen hat die Verzerrung der Daten? Wie man all diese Dinge loswird, sollte einem guten Statistiker beigebracht werden. Aber wenn Sie jetzt die Statistiker entfernen, weil jeder ein Modell verwenden kann, um Daten zu analysieren und Vorhersagen zu treffen, dann verweigern Sie am Ende Kreditlinien und genehmigen sie für Leute, die – wie Sie wissen – für Sie mit Konsequenzen verbunden sein könnten , wissen Sie, getrieben durch eine sehr negative Verzerrung in den Daten, oder?

(17:44): Es könnte sich negativ auf einen bestimmten Teil der Bevölkerung auswirken.Vielleicht gibt es einige, die keinen Kredit mehr bekommen, nur weil sie in einer bestimmten Nachbarschaft wohnen mm-hmm. , oder sie, wissen Sie, es gibt viele Gründe, warum das ein Problem sein könnte,

John Jantsch (17:57): Aber war das früher nicht ein Faktor?Ich meine, sicherlich werden Nachbarschaften berücksichtigt , wissen Sie, als Teil des, wissen Sie, sogar bei den analogen Modellen, denke ich.

Kenneth Wenger (18:06): Ja, absolut.Wie ich schon sagte, wir hatten immer ein Problem mit Voreingenommenheit, oder? In den Daten, oder? Aber traditionell würde man hoffen, dass zwei Dinge passieren würden. Erstens würde man hoffen, dass jeder, der ein Modell entwickelt, nur weil es sich um ein komplexes Problem handelt, über eine ausreichende statistische Ausbildung verfügen muss. Ja. Rechts? Und ein ethischer Statistiker müsste darüber nachdenken, wie er mit der Verzerrung in den Daten umgehen soll, oder? Das ist also Nummer eins. Zweitens besteht das Problem, das wir derzeit haben, erstens darin, dass man diese festgelegte Entscheidung nicht braucht. Sie können das Modell einfach verwenden, ohne zu verstehen, was passiert, oder? Rechts. Und was noch schlimmer ist, ist, dass wir mit diesen Modellen nicht wirklich verstehen können, wie das funktioniert, oder dass es traditionell sehr schwierig ist, zu verstehen, wie das Modell zustande kam oder eine Vorhersage getroffen hat. Wenn Ihnen also entweder ein Kreditrahmen verweigert wird oder, wie ich in der Buchkaution spreche, zum Beispiel in einem Gerichtsverfahren, dann ist es sehr schwierig zu argumentieren, nun, warum ich? Warum, warum wurde mir diese Sache verweigert? Und wenn Sie es dann noch einmal mit dem traditionellen Ansatz prüfen, bei dem Sie eine Entscheidung treffen, können Sie sich immer fragen: Wie haben Sie das modelliert? Äh, warum wurde dieser Person dieser spezielle Fall bei einer Prüfung verweigert? Mm-hmm. mit einem, einem, einem neuronalen Netzwerk zum Beispiel wird das viel komplizierter.

John Jantsch (19:21): Also ich meine, was Sie sagen, eines der anfänglichen Probleme besteht darin, dass sich die Leute auf den Output, die Daten, verlassen.Ich meine, ich benutze es sogar auf eine sehr einfache Art und Weise. Ich leite eine Marketingfirma und wir nutzen sie oft, um uns Textideen zu geben, uns Ideen für Schlagzeilen zu geben, Sie wissen schon, für Dinge. Daher habe ich nicht wirklich das Gefühl, dass darin eine wirkliche Gefahr besteht, außer dass es sich vielleicht wie alle anderen anhört in Ihrem Exemplar. Äh, aber, aber Sie sagen das, wissen Sie, wenn die Leute anfangen, sich darauf zu verlassen, um Entscheidungen zu treffen, die eigentlich fundiert sein sollten, sind Vorhersagen oft falsch.

Kenneth Wenger (19:57): Ja.Und, und das gibt es sehr, also lautet die Antwort ja. Dafür gibt es zwei Gründe. Und im Übrigen möchte ich noch einmal sagen, dass es Anwendungsfälle gibt, bei denen man sich das natürlich als Spektrum vorstellen muss, oder? Wie ja, ja. Es gibt Fälle, in denen die Folgen eines Fehlers schlimmer sind als in anderen Fällen, oder? Wie Sie sagen: Wenn Sie versuchen, eine Kopie zu erstellen, und wissen, dass es unsinnig ist, dann machen Sie einfach weiter und ändern es. Und am Ende des Tages werden Sie es wahrscheinlich trotzdem rezensieren. Das sind also niedrigere, wahrscheinlich geringere Kosten. Die Kosten eines Fehlers sind dort geringer als beispielsweise bei der Verwendung eines Modells in einem Gerichtsverfahren. Rechts? Rechts. Rechts. Nun, was die Tatsache betrifft, dass diese Modelle manchmal Fehler machen, liegt der Grund dafür darin, dass diese Modelle tatsächlich so funktionieren, dass sie, und der Teil, der täuschen kann, darin besteht, dass sie dazu neigen, wirklich gut zu funktionieren Bereiche in den Daten, die sie wirklich gut verstehen.

(20:56): Wenn Sie also an einen Datensatz denken, richtig?Sie werden also anhand eines Datensatzes für die meisten Daten in diesem Datensatz trainiert und können ihn wirklich gut modellieren. Aus diesem Grund erhalten Sie Modelle, die bei einem bestimmten Datensatz beispielsweise eine Genauigkeit von 90 % aufweisen. Das Problem ist, dass die Fehler der 10 %, die nicht wirklich gut modellieren können, bemerkenswert sind und dass ein Mensch diese Fehler nicht machen könnte. Ja. Was passiert also in den Fällen, in denen wir zunächst einmal sagen, dass wir beim Training dieser Modelle, die wir erhalten, eine Fehlerrate von 10 % in diesem bestimmten Datensatz erhalten? Das einzige Problem ist, dass man bei der Umsetzung in die Produktion nicht weiß, ob die Inzidenzrate dieser Fehler in der realen Welt gleich sein wird, oder?

(21:40): Möglicherweise befinden Sie sich in einer Situation, in der Sie die Datenpunkte, die zu Fehlern führen, viel häufiger erhalten als in Ihrem Datensatz.Nur ein Problem. Das zweite Problem besteht darin, dass, wenn Sie sich in einem Anwendungsfall, in Ihrer Produktion, Sie wissen schon, in einer Anwendung befinden, bei der ein Fehler kostspielig sein könnte, wie zum Beispiel in einem medizinischen Anwendungsfall oder beim autonomen Fahren. wenn man zurückgehen und erklären muss, warum man etwas falsch gemacht hat, warum das Modell etwas falsch gemacht hat und es sich einfach so bizarr von dem unterscheidet, was ein Mensch falsch machen würde. Das ist einer der Hauptgründe, warum diese Systeme heute nicht in sicherheitskritischen Bereichen eingesetzt werden. Und übrigens, das ist einer der Hauptgründe, warum wir Splint entwickelt haben: Wir wollen speziell diese Probleme angehen und herausfinden, wie wir eine Reihe von Modellen oder ein System erstellen können, das genau erkennen kann, wann Modelle die Dinge richtig machen wenn sie zur Laufzeit etwas falsch machen. Denn ich glaube wirklich, dass dies einer der Hauptgründe dafür ist, dass wir zu diesem Zeitpunkt noch nicht so weit fortgeschritten sind, wie wir hätten sein sollen. Denn wenn Modelle wirklich gut funktionieren, wenn sie in der Lage sind, die Daten zu modellieren, dann funktionieren sie großartig. Aber in den Fällen, in denen sie diesen Datenabschnitt nicht modellieren können, sind die Fehler einfach unglaublich, oder? Es sind Dinge, die Menschen niemals herstellen würden

John Jantsch (23:00): Fehler.Ja Ja Ja. Und natürlich, wissen Sie, das muss gewiss gelöst werden, bevor irgendjemand darauf vertraut, ein bemanntes Raumschiff zu schicken, wissen Sie, gesteuert von KI oder so, oder? Ich meine, wenn man weiß, dass Menschenleben in Gefahr sind, muss man Vertrauen haben. Und wenn man dieser Entscheidungsfindung nicht vertrauen kann, wird das die Leute sicherlich davon abhalten, diese Technologie einzusetzen, nehme ich an.

Kenneth Wenger (23:24): Richtig?Oder sie zum Beispiel zu nutzen, um, wie ich schon sagte, in medizinischen Bereichen zu helfen, zum Beispiel bei der Krebsdiagnose, nicht wahr? Wenn Sie möchten, dass ein Modell bestimmte Krebsarten erkennen kann, beispielsweise anhand von Biopsiescans, möchten Sie dem Modell vertrauen können. Nun, im Grunde genommen wird jedes Modell Fehler machen. Nichts ist jemals perfekt, aber Sie möchten, dass zwei Dinge passieren. Erstens möchten Sie in der Lage sein, die Arten von Fehlern, die das Modell machen kann, zu minimieren, und Sie müssen einen Hinweis darauf haben, dass die Qualität der Vorhersage des Modells nicht besonders gut ist. Das willst du nicht haben. Ja. Und zweitens: Sobald ein Fehler passiert, muss man behaupten können, dass der Grund für den Fehler darin liegt, dass die Qualität der Daten so hoch war, dass selbst ein Mensch es nicht besser machen könnte. Ja. Wir können nicht zulassen, dass Models Fehler machen, die ein menschlicher Arzt ansehen und sagen würde: „Nun, das ist eindeutig ja, falsch.“

John Jantsch (24:15): Ja.Ja. Absolut. Nun, Ken, ich möchte, äh, ich möchte mich bei Ihnen dafür bedanken, dass Sie sich einen Moment Zeit genommen haben, um beim Duct Tape Marketing Podcast vorbeizuschauen. Sie möchten den Leuten sagen, wo sie es finden können, mit Ihnen in Kontakt treten, wenn Sie möchten, und dann natürlich, wo sie ein Exemplar von Is the Algorithm Plotting against Us? bekommen können.

Kenneth Wenger (24:29): Absolut.Vielen Dank, zunächst einmal, dass Sie mich haben. Es war ein tolles Gespräch. Also ja, Sie können mich auf LinkedIn erreichen und den Polizisten um ein Exemplar des Buches bitten und es sowohl bei Amazon als auch auf unserer Verlagswebsite, die sich Working Fires.org nennt, erhalten.

John Jantsch (24:42): Großartig.Nun, nochmals vielen Dank für die Lösung durch ein tolles Gespräch. Hoffentlich treffen wir Sie eines Tages dort draußen auf der Straße.

Kenneth Wenger (24:49): Danke.

John Jantsch (24:49): Hey, und noch eine letzte Sache, bevor du gehst.Wissen Sie, wie ich von Marketingstrategie spreche: Strategie vor Taktik? Nun, manchmal kann es schwierig sein zu verstehen, wo man steht und was im Hinblick auf die Entwicklung einer Marketingstrategie getan werden muss. Deshalb haben wir ein kostenloses Tool für Sie erstellt. Es heißt Marketing Strategy Assessment. Sie finden es unter @marketingassessment.co, not.com, dot co. Schauen Sie sich unsere kostenlose Marketingbewertung an und erfahren Sie, wo Sie heute mit Ihrer Strategie stehen. Das ist nur Marketing Assessment.co. Ich würde gerne mit Ihnen über die Ergebnisse sprechen, die Sie erzielen.