Les startups d'IA ont collectivement transféré leurs emplois vers OpenAI, et l'équipe de sécurité s'est regroupée après le départ d'Ilya !

La semaine dernière, en raison de la vague interne de démissions et de critiques externes, on peut dire qu'OpenAI souffre de problèmes internes et externes :

- L'infraction de la sœur veuve a suscité une vive discussion mondiale

- Les employés ont signé des "clauses de suzerain" et ont été dénoncés les uns après les autres. Out

- Les internautes décomposent les "sept péchés capitaux" d'Ultraman

Rumeur réfutant : selon des informations divulguées et des documents obtenus par Vox, la haute direction d'OpenAI, y compris Altman, est bien au courant de ces conditions de récupération des capitaux propres et les a signées.

De plus, OpenAI est confronté à un problème grave et urgent : la sécurité de l'IA.

Le départ récent de cinq employés liés à la sécurité, dont deux de ses employés les plus en vue, et la dissolution de l'équipe « Super Alignement » ont une nouvelle fois mis les enjeux de sécurité d'OpenAI sur le devant de la scène.

Fortune rapporte qu'OpenAI n'a jamais tenu sa promesse de donner à son équipe Super Alignment l'accès à 20 % de ses ressources informatiques.

En juillet 2023, OpenAI a créé une nouvelle équipe chargée de garantir que les futurs systèmes d'intelligence artificielle qui pourraient être plus intelligents que les humains réunis puissent être contrôlés en toute sécurité. Pour montrer à quel point l'entreprise prenait au sérieux cet objectif, elle s'est publiquement engagée à consacrer 20 % de ses ressources informatiques alors disponibles à cet effort.

Maintenant, moins d'un an plus tard, l'équipe appelée "Super Alignment" a été dissoute au milieu des démissions d'employés et des accusations selon lesquelles OpenAI donnait la priorité aux lancements de produits plutôt qu'à la sécurité de l'IA, selon six personnes proches du dossier. OpenAI n'a jamais tenu sa promesse. pour fournir 20% de la puissance de calcul à l'équipe.

Mais jeudi dernier, Fouad Matin, PDG d'Indent, a annoncé sur X et Reddit : "Nous avons rejoint OpenAI et nous nous engageons à préparer la sécurité pour AGI

Il a écrit dans un tweet : "Je suis ravi de le faire". travaillez avec une équipe formidable pour sécuriser l'avenir. De la préparation de modèles de pointe au contrôle des données clients, il est important de garantir que l'IA est sûre et profite à tout le monde. "

Il semble que l'équipe de sécurité d'OpenAI se regroupe et recruter de nouvelles personnes. Alors, Fouad Matin, qui vient d'être recruté par OpenAI, peut-il intervenir et "sauver le bâtiment de la chute" ?

Fouad Matin et son équipe

Certaines « personnes qui ne connaissent pas la vérité » ont laissé un message sous le post de Fouad Matin : Qui est le « nous » dans « Nous avons rejoint OpenAI » ?

Évidemment, la réponse n'est pas aussi simple que « ses deux moitiés ». La ressource derrière Fouad Matin est Indent, qu'il a fondée, une société d'IA dédiée à « construire un avenir sûr ».

Actuellement, Indent a publié un "avis de temporisation" sur son site officiel, annonçant qu'Indent cessera ses services en juillet de cette année.

Nous avons lancé Indent dans le but d'aider les équipes à protéger ce qui compte le plus. Nos clients ont tout sécurisé, depuis les données clients et l'infrastructure de production jusqu'aux logiciels d'entreprise quotidiens, le tout sans ralentir leurs équipes.

Après mûre réflexion, nous avons pris une décision très difficile : Indent fermera ses portes dans les mois à venir. Nous aiderons les clients à faire la transition et continuerons à travailler vers cet objectif commun.

Les équipes peuvent postuler jusqu'au 15 juillet 2024 à 12h PST, date à laquelle le service sera fermé. Les journaux d'audit seront disponibles jusqu'au 19 juillet, après quoi nous commencerons le processus de suppression des données.

Nous souhaitons remercier tous ceux qui utilisent Indent, depuis les startups en démarrage qui y ont accès dès le premier jour, jusqu'aux centaines de personnes qui utilisent Indent pour protéger leurs ressources critiques.

Fouad Matin ist Mitbegründer und CEO von Indent. Er sagte, er habe Indent gegründet, weil er festgestellt habe, dass die meisten Unternehmen nicht wüssten, wer Zugriff auf Kundendaten habe, und dass die Entdeckung dieses Problems für die meisten Unternehmen zu teuer sei hoch. Hoch, geschweige denn diese Daten sperren. Und Indent kann eine benutzerfreundliche Zugriffskontrolle bieten. Im Dezember 2021 sammelte Indent 5,6 Millionen US-Dollar für die On-Demand-Zugangskontrolle.

Vor der Gründung von Indent im Jahr 2018 hatte Fouad Matin drei weitere Berufserfahrungen.

Im Jahr 2014 gründete Fouad Matin zusammen mit anderen Lianchuang ein Empfehlungs-Rekrutierungsunternehmen, wo er für Produkt, Vertrieb und technisches Design verantwortlich war. Teilnahme am ersten Y Combinator-Stipendienprogramm und YC W16.

Im Jahr 2016 gründete er eine überparteiliche gemeinnützige Organisation, die sich zum Ziel gesetzt hat, jungen Menschen die einfachste Möglichkeit zu bieten, sich zu registrieren und zu wählen, und so 1 Million Menschen beim Wählen zu helfen.

Im Jahr 2017 arbeitete er als Ingenieur bei Segment und leitete die Produkt- und technische Entwicklung von Segmentrollen, die es Kunden ermöglichen, Benutzeraktionen in Konfigurationsdateien zu analysieren. Engagiert für ein besseres Produkterlebnisdesign.

Wie Fouad Matin in seinem Profil vorstellt, ist er ein Softwareentwickler und Produktdesigner, der manchmal in Startups investiert und in den letzten Jahren Millionen von Menschen dabei geholfen hat, für gemeinnützige Organisationen und Unternehmen bei der Verwaltung ihrer Kundendaten zu stimmen.

Jetzt arbeitet er im Sicherheitsbereich bei OpenAI. Indent Sonnenuntergang, und Fouad Matin wird seine neue berufliche Reise beginnen.

Andere Mitglieder

Im Kommentarbereich von Fouad Matins Tweet gratulierte ihm ein Freund, der ihn seit 2 Jahren kennt, dass neben Fouad Matin auch andere beigetreten sind das OpenAI-Sicherheitsteam.

Dan Gillespie wird sich hauptsächlich mit dem „Aufbau der sicheren Computerplattform beschäftigen, die für die Einführung von AGI erforderlich ist“.

Zufälligerweise hat Dan Gillespie auch einen Investment-Hintergrund, der Fouad Matin ähnelt. Laut seiner Vorstellung auf LinkedIn arbeitete er auch bei Y Combinator, dem negativsten Unternehmen im Silicon Valley Der renommierte Startup-Inkubator hat im vergangenen Jahr in mehr als 260 KI-Startups investiert und ist ein Maßstab für KI-Startup-Trends im Silicon Valley und sogar auf der ganzen Welt.

Links: Dan Gillespie, 23 Jahre alt

Eine Kolumne von Bloomberg Opinion schlug vor: „Der Mai 2024 wird als der Monat in Erinnerung bleiben, in dem die KI-Sicherheitsbewegung starb. Gleichzeitig werden es die Menschen tun.“ Denken Sie auch daran, dass es an der Zeit ist, dass die Arbeit an einer sichereren KI wirklich beginnt.“

Kann OpenAI trotz negativer Stimmen wirklich daran festhalten, ein sichereres System aufzubauen? anders.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!