Der verstorbene OpenAI-Whistleblower wurde als Zeuge gegen das Unternehmen betrachtet

Suchir Balaji, ehemaliger OpenAI Der Ingenieur und Whistleblower, der beim Trainieren der künstlichen Intelligenzsysteme hinter ChatGPT mitgewirkt hat und später sagte, er glaube, dass diese Praktiken gegen das Urheberrecht verstoßen, ist nach Angaben seiner Eltern und Beamten von San Francisco gestorben. Er war 26 Jahre alt.

Balaji arbeitete fast vier Jahre bei OpenAI, bevor er im August zurücktrat. Er genoss hohes Ansehen bei den Kollegen des Unternehmens aus San Francisco, wo ihn ein Mitbegründer diese Woche als einen der stärksten Mitwirkenden von OpenAI bezeichnete, der für die Entwicklung einiger seiner Produkte von entscheidender Bedeutung sei.

„Wir sind am Boden zerstört, diese unglaublich traurige Nachricht zu hören, und in dieser schwierigen Zeit sind wir in Gedanken bei Suchirs Lieben“, heißt es in einer Erklärung von OpenAI.

Balaji wurde am 26. November tot in seiner Wohnung in San Francisco aufgefunden. Die Polizei sagte, es handele sich offenbar um Selbstmord. Bei der ersten Untersuchung wurden keine Hinweise auf ein Fremdverschulden gefunden.“ Das Büro des städtischen Gerichtsmediziners bestätigte, dass es sich bei der Todesart um Selbstmord handelte.

Seine Eltern, Poornima Ramarao und Balaji Ramamurthy, sagten, sie suchten immer noch nach Antworten und beschrieben ihren Sohn als einen „glücklichen, intelligenten und mutigen jungen Mann“, der das Wandern liebte und kürzlich von einer Reise mit Freunden zurückgekehrt sei.

Balaji wuchs in der San Francisco Bay Area auf und kam 2018 während seines Informatikstudiums an der University of California, Berkeley, zum ersten Mal für ein Sommerpraktikum in das junge KI-Forschungslabor. Einige Jahre später kehrte er zurück, um bei OpenAI zu arbeiten, wo eines seiner ersten Projekte namens WebGPT dazu beitrug, den Weg für ChatGPT zu ebnen.

„Suchirs Beiträge zu diesem Projekt waren von entscheidender Bedeutung und ohne ihn wäre es nicht erfolgreich gewesen“, sagte OpenAI-Mitbegründer John Schulman in einem Social-Media-Beitrag, in dem er Balaji würdigte. Schulman, der Balaji für sein Team rekrutierte, sagte, dass ihn seine Liebe zum Detail und seine Fähigkeit, subtile Fehler oder logische Fehler zu erkennen, zu einem so außergewöhnlichen Ingenieur und Wissenschaftler machten.

„Er hatte ein Talent dafür, einfache Lösungen zu finden und eleganten Code zu schreiben, der funktionierte“, schrieb Schulman. „Er dachte sorgfältig und gründlich über die Details der Dinge nach.“

Später kuratierte Balaji riesige Datensätze von Online-Schriften und anderen Medien, die zum Trainieren von GPT-4 verwendet wurden, der vierten Generation des Flaggschiff-Großsprachenmodells von OpenAI und einer Grundlage für den berühmten Chatbot des Unternehmens. Es war diese Arbeit, die Balaji dazu veranlasste, die Technologie, an deren Entwicklung er beteiligt war, in Frage zu stellen, insbesondere nachdem Zeitungen, Romanautoren und andere begannen, OpenAI und andere KI-Unternehmen wegen Urheberrechtsverletzungen zu verklagen.

Er äußerte zunächst seine Bedenken gegenüber dem New York Timesder sie im Oktober in einem Profil von Balaji gemeldet hat.

Später teilte er der Associated Press mit, dass er „versuchen werde, in den schwerwiegendsten Fällen von Urheberrechtsverletzungen auszusagen“, und bezeichnete eine von der New York Times im vergangenen Jahr eingereichte Klage als die „schwerwiegendste“. Anwälte der Times nannten ihn in einer Gerichtsakte vom 18. November als jemanden, der möglicherweise über „einzigartige und relevante Dokumente“ verfügt, die OpenAIs Behauptungen einer vorsätzlichen Urheberrechtsverletzung stützen.

Seine Unterlagen wurden laut Gerichtsdokumenten auch von Anwälten in einem separaten Fall eingeholt, der von Buchautoren, darunter der Komikerin Sarah Silverman, angestrengt wurde.

„Es fühlt sich nicht richtig an, auf den Daten der Menschen zu trainieren und dann mit ihnen auf dem Markt zu konkurrieren“, sagte Balaji Ende Oktober gegenüber der AP. „Ich glaube nicht, dass du dazu in der Lage sein solltest. Ich glaube nicht, dass Sie dazu rechtlich in der Lage sind.“

Er sagte der AP, dass er von OpenAI zunehmend desillusioniert sei, insbesondere nach internen Unruhen, die dazu führten, dass der Vorstand im vergangenen Jahr CEO Sam Altman entließ und wieder einstellte. Balaji sagte, er sei sehr besorgt über die Art und Weise, wie seine kommerziellen Produkte beworben würden, einschließlich der Neigung, falsche Informationen, sogenannte Halluzinationen, zu verbreiten.

Aber von den „Problemen“, die ihn beunruhigten, sagte er, konzentrierte er sich auf das Urheberrecht als das Thema, bei dem es „wirklich möglich sei, etwas zu tun“.

Er räumte ein, dass es sich um eine unpopuläre Meinung innerhalb der KI-Forschungsgemeinschaft handele, die es gewohnt sei, Daten aus dem Internet zu sammeln, sagte aber: „Sie müssen sich ändern und es ist eine Frage der Zeit.“

Er wurde nicht abgesetzt und es ist unklar, inwieweit seine Enthüllungen nach seinem Tod als Beweismittel in einem Gerichtsverfahren zugelassen werden. Er veröffentlichte auch einen persönlichen Blogbeitrag mit seinen Gedanken zu diesem Thema.

Schulman, der im August von OpenAI zurücktrat, sagte, er und Balaji seien zufällig am selben Tag gegangen und hätten an diesem Abend mit Kollegen mit Abendessen und Getränken in einer Bar in San Francisco gefeiert. Ein weiterer Mentor von Balaji, Mitbegründer und Chefwissenschaftler Ilya Sutskever, hatte OpenAI einige Monate zuvor verlassen, was Balaji als weiteren Anstoß zum Verlassen ansah.

Schulman sagte, Balaji habe ihm Anfang des Jahres von seinen Plänen erzählt, OpenAI zu verlassen, und dass Balaji nicht glaubte, dass eine übermenschliche KI, bekannt als künstliche allgemeine Intelligenz, „kommen würde, wie der Rest des Unternehmens zu glauben schien“. “. Der jüngere Ingenieur zeigte Interesse daran, einen Doktortitel zu erwerben und „einige ungewöhnlichere Ideen zum Aufbau von Intelligenz“ auszuprobieren, sagte Schulman.

Balajis Familie sagte, dass für Ende dieses Monats eine Gedenkfeier im India Community Center in Milpitas, Kalifornien, unweit seiner Heimatstadt Cupertino, geplant sei.

In den USA können Sie anrufen oder eine SMS senden Nationale Lebensader für Suizidprävention bei 988, chatten Sie unter 988lifeline.orgoder Text STARTSEITE unter 741741, um einen Krisenberater zu kontaktieren. Im Vereinigten Königreich und in Irland Samariter kann über die gebührenfreie Telefonnummer 116 123 oder per E-Mail kontaktiert werden jo@samaritanos.org oder jo@samaritanos.ie. In Australien der Krisenunterstützungsdienst Lebenslinie ist 13 11 14. Weitere internationale Helplines finden Sie unter befrienders.org

Associated Press und OpenAI haben eine Technologie- und Lizenzvereinbarung, die OpenAI den Zugriff auf einen Teil der Textdateien des AP ermöglicht.