Um Akademikerinnen und andere KI-orientierte Menschen in den wohlverdienten Fokus zu rücken, startet TechCrunch eine Reihe von Interviews Der Schwerpunkt liegt auf bemerkenswerten Frauen, die zur KI-Revolution beigetragen haben.
Tamar Eilam arbeitet seit 24 Jahren bei IBM. Derzeit ist sie IBM Fellow und fungiert als Chefwissenschaftlerin für nachhaltiges Computing, um Teams dabei zu helfen, den Energieverbrauch ihrer Computer zu reduzieren. Am stolzesten ist sie auf die Arbeit an einem Open-Source-Projekt namens Kepler, das dabei hilft, den Stromverbrauch einer einzelnen Containeranwendung zu quantifizieren.
In vielerlei Hinsicht war es der Zeit voraus: Mit der fortschreitenden KI-Revolution ist der Energieverbrauch zu einem der heißesten Themen der Branche geworden. KI verbraucht große Mengen natürlicher Ressourcen; Sowohl das Training als auch der Einsatz von KI sind energieintensiv. Ein Goldman Sachs heißt es im diesjährigen Bericht dass eine ChatGPT-Suche im Vergleich zur Google-Suche zehnmal mehr Energie für die Verarbeitung benötigt. In dem Bericht heißt es außerdem, dass KI den Energiebedarf von Rechenzentren in naher Zukunft um 160 % steigern werde.
Eilam arbeitet mit IBM zusammen, um Abhilfe zu schaffen.
„Der Fokus muss allgemein auf Nachhaltigkeit liegen“, sagte sie gegenüber TechCrunch. „Wir haben ein Problem und auch eine Chance.“
Das Energieproblem
Eilam glaubt, dass die Branche in einem Rätsel steckt. KI habe das Potenzial, Industrien nachhaltiger zu machen, auch wenn die Technologie selbst derzeit Ressourcen verschlinge, sagte sie.
Tatsächlich können Computer und KI zur Dekarbonisierung des Stromnetzes beitragen, sagte sie. Derzeit ist das Stromnetz teilweise von erneuerbaren Energien wie Wasser, Sonne und Wind abhängig: Ressourcen, deren Preis und Verfügbarkeit schwanken. Das bedeutet, dass die Rechenzentren, die sie betreiben, Schwierigkeiten haben, den Verbrauchern einen konsistenten Service (hinsichtlich Preis und Stromquelle) zu garantieren. „Indem wir das Stromnetz mit der Datenverarbeitung zusammenarbeiten lassen und die Arbeitslast verlagern oder reduzieren können, können wir wirklich zur Dekarbonisierung beitragen“, sagte sie.
Aber die natürlichen Ressourcen sind nicht ihre einzige Sorge. „Denken Sie daran, wie viele Chips wir herstellen und wie viel Kohlenstoff und giftige Materialien mit der Herstellung dieser Chips verbunden sind“, sagte sie über die Branche.
Bei IBM hat sie all diese Probleme im Blick und sagt, dass sie versucht, nachhaltige KI ganzheitlich anzugehen, wenn es darum geht, Lösungen dafür zu finden. Sie sagt zum Beispiel, dass IBM leitet ein Programm Gesponsert von der National Science Foundation, um herauszufinden, wo in KI-Chips seit jeher Chemikalien vorkommen, damit das Unternehmen die Entdeckung neuer Materialien zu ihrem Ersatz beschleunigen kann.
Im operativen Bereich berät sie Teams dabei, KI-Modelle energiesparend zu trainieren. „Durch die Verwendung weniger Daten, aber auch qualitativ hochwertiger Daten, werden Sie schneller zu einer genaueren Lösung gelangen“, sagte sie.
Zur Feinabstimmung verfügt IBM ihrer Meinung nach über eine spekulative Dekodierungstechnik, um die Inferenzeffizienz zu verbessern. „Dann gehst du den Stapel hinunter“, fuhr sie fort. „Wir haben unsere eigene Plattform, also entwickeln wir viele Optimierungen, die damit zu tun haben, wie Sie diese Modelle in Beschleunigern einsetzen.“
Sie sagt, IBM glaube an Offenheit und Heterogenität, wobei letzteres bedeute, dass es keine Einheitslösung gebe, die für alle passt. „Deshalb haben wir Granite in mehreren verschiedenen Größen auf den Markt gebracht, denn je nach Anwendungsfall wählen Sie die Größe, die für Sie am besten geeignet ist, die möglicherweise weniger kostet, Ihren Bedürfnissen entspricht und Sie werden weniger Energie verbrauchen.“
Sie integrieren Beobachtbarkeit, um alles zu quantifizieren, einschließlich Stromverbrauch, Latenz und Durchsatz, sagte sie. Sie sieht ihre Arbeit als immer wichtiger an, insbesondere weil sie hofft, dass mehr Menschen darauf vertrauen, dass die Modelle von IBM ihnen effektive, aber auch nachhaltige Möglichkeiten des Rechnens bieten. „Was wir ihnen sagen, ist: ‚Hey, fang nicht bei Null an‘“, sagte sie. „Nehmen Sie den Granit und passen Sie ihn jetzt an. Wissen Sie, wie viel Energie Sie sparen, weil Sie nicht bei Null angefangen haben?’“, fuhr sie fort.
„Der Grund, warum sie bei Null anfangen und ihre eigenen Modelle entwickeln wollen, ist, dass sie dem, was da draußen ist, nicht vertrauen. Weil Sie nicht wissen, welche Daten in der Schulung enthalten waren, und möglicherweise gegen geistiges Eigentum verstoßen“, sagte sie. „Wir haben für alle unsere Modelle eine IP-Entschädigung, da wir genau melden können, welche Daten eingegeben wurden, und wir stellen sicher, dass es keine IP-Verletzung gibt. Da sagen wir: ‚Hey, Sie können unseren Modellen vertrauen.‘“
Eine Frau in der KI
Eilams Hintergrund liegt im verteilten Cloud Computing, aber 2019 nahm sie an einer Softwarekonferenz teil, bei der es unter anderem um den Klimawandel ging. „Seitdem ich den Vortrag verlassen habe, konnte ich nicht mehr aufhören, über Nachhaltigkeit nachzudenken“, sagte sie.
Also verschmolz sie Klima und Informatik und beschloss, etwas zu ändern. Aber tiefer in die KI einzutauchen bedeutete, dass sie oft die einzige Frau im Raum war. Sie sagte, sie habe viel über unbewusste Vorurteile gelernt, die ihrer Meinung nach sowohl Männer als auch Frauen auf unterschiedliche Weise erleben. „Ich denke viel darüber nach, Bewusstsein zu schaffen“, sagte sie, insbesondere als Frau in einer Führungsrolle.
Vor einigen Jahren war sie Mitleiterin eines IBM-Forschungsworkshops und sprach mit Frauen über diese Art von Vorurteilen, etwa darüber, dass Frauen sich nicht auf eine Stelle bewerben, selbst wenn sie zu mehr als 70 % qualifiziert sind, und dass Männer sich auch dann bewerben, wenn sie qualifiziert sind sie haben weniger als 50 %. Sie gibt Frauen, die ihre eigene berufliche Laufbahn beginnen, einen Rat: Haben Sie keine Angst davor, eine Meinung zu haben und diese zu äußern.
„Beharren Sie, bleiben Sie bestehen. Wenn sie nicht zuhören, sagen Sie es ein anderes Mal und ein anderes Mal. Das ist der beste Rat, den ich geben kann.“
Was die Zukunft bringt
Eilam ist der Ansicht, dass Investoren sich Startups ansehen sollten, die ihre Innovationen transparent machen.
„Geben sie ihre Datenquellen offen?“ Sie sagte und fügte hinzu, dass dies auch gilt, wenn ein Unternehmen mitteilt, wie viel Strom seine KI verbraucht. Sie sagt auch, dass es für Investoren wichtig ist, zu prüfen, ob ein Startup über Schutzmaßnahmen verfügt, die dazu beitragen können, Hochrisikoszenarien zu verhindern.
Sie befürworte auch mehr Vorschriften, obwohl dies schwierig sein könnte, da die Technologie recht kompliziert sein könne, sagte sie. Der erste Schritt geht jedoch zurück zur Transparenz – erklären zu können, was passiert, und ehrlich über die Auswirkungen zu sein, die es haben wird.
„Wenn es keine Erklärbarkeit gibt und wir dann (KI) ohne Konsequenzen für die potenzielle Zukunft der Menschen einsetzen, gibt es hier ein Problem“, sagte sie.
Dieses Stück wurde aktualisiert.
TechCrunch hat einen KI-fokussierten Newsletter! Melden Sie sich hier an um es jeden Mittwoch in Ihrem Posteingang zu erhalten.
