Acht Analystenprognosen für die Sicherheit von ChatGPT im Jahr 2023

Die jüngste Veröffentlichung von ChatGPT-4 durch den Entwickler künstlicher Intelligenz OpenAI hat die Welt erneut schockiert, aber was dies im Bereich der Datensicherheit bedeutet, muss noch ermittelt werden. Einerseits ist die Generierung von Malware und Ransomware einfacher denn je. Andererseits kann ChatGPT auch eine Reihe neuer Anwendungsfälle für die Verteidigung bereitstellen.

Die jüngste Veröffentlichung von ChatGPT-4 durch den Entwickler künstlicher Intelligenz OpenAI hat die Welt erneut schockiert, aber was es im Bereich der Datensicherheit bedeutet, muss noch ermittelt werden. Einerseits ist die Generierung von Malware und Ransomware einfacher denn je. Andererseits kann ChatGPT auch eine Reihe neuer Anwendungsfälle für die Verteidigung bereitstellen.

Branchenmedien haben kürzlich einige der weltweit führenden Cybersicherheitsanalysten interviewt und sie haben die folgenden Vorhersagen über die Entwicklung von ChatGPT und generativer künstlicher Intelligenz im Jahr 2023 gemacht:

• ChatGPT wird die Schwelle für Cyberkriminalität senken.
• Das Erstellen überzeugender Phishing-E-Mails wird einfacher.
• Unternehmen benötigen Sicherheitsexperten, die sich mit KI-Technologie auskennen.
• Unternehmen müssen den Inhalt der generativen KI-Ausgabe überprüfen.
• Generative KI wertet bestehende Bedrohungen auf.
• Unternehmen definieren ihre Erwartungen an die ChatGPT-Nutzung.
• Künstliche Intelligenz wird die menschlichen Fähigkeiten verbessern.
• Unternehmen werden immer noch mit den gleichen alten Bedrohungen konfrontiert sein.

Hier sind einige Vorhersagen von Cybersicherheitsanalysten.

1.ChatGPT wird die Schwelle für Cyberkriminalität senken

Steve Grobman, Senior Vice President und Chief Technology Officer von McAfee, sagte: „ChatGPT senkt die Schwelle für die Nutzung und macht einige Technologien möglich, die traditionell die Investition hochqualifizierter Talente und großer Geldbeträge erfordern.“ Jeder, der Zugang zum Internet hat, kann es jetzt nutzen, um Schadcode in großen Mengen zu generieren

Sie können beispielsweise ein Programm bitten, Code zu schreiben, um Textnachrichten zu generieren, die an Hunderte gesendet werden Das ist es, was ein nicht-kriminelles Marketingteam tut, indem es die Empfänger auf eine Website mit bösartigen Bedrohungen weiterleitet

Wie jede neue Technologie oder Anwendung, die Vor- und Nachteile hat, wird ChatGPT sowohl von guten als auch von schlechten Akteuren genutzt, daher muss die Cybersicherheits-Community wachsam bleiben, wie es ausgenutzt werden kann.“

2 .Erstellen von überzeugendem Phishing E-Mails werden einfacher

Justin Greis, Partner bei McKinsey & Company, sagte: „Generative KI ist im Großen und Ganzen ein Werkzeug, das wie alle Werkzeuge heute für gute Zwecke eingesetzt werden kann Neugierige Forscher erstellen überzeugendere Phishing-E-Mails, generieren bösartigen Code und Skripte, um potenzielle Cyberangriffe zu starten oder einfach nur bessere und schnellere Informationen abzufragen

Aber bei jedem Missbrauchsfall werden weiterhin Kontrollen eingeführt, um ihnen entgegenzuwirken. Das liegt in der Natur der Cybersicherheit. Es ist ein nie endender Kampf, den Gegner auszutricksen.

Wie bei jedem Tool, das für böswilligen Schaden eingesetzt werden kann, müssen Unternehmen Schutzmaßnahmen ergreifen, um die Öffentlichkeit vor Missbrauch zu schützen .

3. Unternehmen brauchen Sicherheitsexperten, die sich mit künstlicher Intelligenz auskennen.

Auswirkungen auf die Cybersicherheitslandschaft. Dies markiert den Beginn einer neuen Ära der KI/ML-Einführung auf beiden Seiten der Kluft, nicht so sehr wegen der Möglichkeiten von ChatGPT, sondern weil es KI/ML ins Rampenlicht rückt Einerseits kann ChatGPT möglicherweise dazu verwendet werden, Social Engineering zu demokratisieren und unerfahrenen Bedrohungsakteuren neue Möglichkeiten zu geben, schnell und einfach Ausreden oder Betrugsversuche zu generieren und ausgefeilte Phishing-Angriffe in großem Umfang durchzuführen Wenn es um neuartige Angriffe oder Abwehrmaßnahmen geht, liegt das daran, dass die Leute von ihm verlangen, dass er Dinge tut, für die er nicht ausgebildet ist.

Was bedeutet das für Sicherheitsexperten? ChatGPT ignorieren? Nein. Als Sicherheitsexperten haben viele von uns ChatGPT getestet, um zu sehen, wie gut es grundlegende Funktionen ausführt. Kann es Pen-Testszenarien schreiben? Kann es Phishing-Ausreden schreiben? Wie kann es beim Aufbau einer Angriffsinfrastruktur und C2 helfen?

Bei der größeren Sicherheitsdiskussion geht es jedoch nicht um ChatGPT. Es geht darum, ob wir derzeit über Sicherheitsrollen verfügen, die verstehen, wie KI/ML-Technologien erstellt, verwendet und interpretiert werden. „

4. Unternehmen müssen den Inhalt der Ausgabe generativer KI überprüfen

Gartner-Analystin Avivah Litan sagte: „In einigen Fällen, wenn das Sicherheitspersonal den Inhalt der Ausgabe nicht überprüfen kann, werden die durch ChatGPT verursachten Probleme größer.“ als Es löst mehr Probleme. Beispielsweise werden einige Schwachstellen unweigerlich nicht erkannt und Unternehmen ein falsches Sicherheitsgefühl vermittelt.

Gleichermaßen kann es auch erkannte Phishing-Angriffe übersehen und falsche oder veraltete Bedrohungsinformationen liefern.

Wir werden also im Jahr 2023 definitiv sehen, dass ChatGPT für verpasste Cyberangriffe und Schwachstellen verantwortlich gemacht wird, die zu Datenschutzverletzungen bei Unternehmen führen, die es nutzen. „

5. Generative KI wird bestehende Bedrohungen verbessern

Rob Hughes, Chief Information Security Officer bei RSA, sagte: „Wie viele neue Technologien glaube ich nicht, dass ChatGPT neue Bedrohungen mit sich bringen wird.“ Ich denke, dass die größte Veränderung in der Sicherheitslandschaft darin bestehen wird, bestehende Bedrohungen, insbesondere Phishing, zu verstärken, zu beschleunigen und zu verbessern.

Grundsätzlich kann ChatGPT Cyberangreifern syntaktisch korrekte Phishing-E-Mails bereitstellen, was wir heutzutage nicht mehr oft sehen.

Während ChatGPT ein Offline-Dienst bleibt, ist es nur eine Frage der Zeit, bis Cyber-Bedrohungsakteure beginnen, Internetzugang, Automatisierung und künstliche Intelligenz zu kombinieren, um dauerhafte und fortschrittliche Angriffe zu erstellen.

Mit Chatbots müssen Menschen keine Spam-Köder schreiben. Stattdessen könnten sie ein Skript schreiben, das besagt: „Verwenden Sie Internetdaten, um sich mit dem und dem vertraut zu machen, und senden Sie ihm so lange Nachrichten, bis er auf den Link klickt.“

Phishing bleibt eine der Hauptursachen für Cybersicherheitsverstöße. Wenn ein Bot in natürlicher Sprache ein verteiltes Spear-Phishing-Tool verwendet, während er in großem Umfang auf den Computern von Hunderten von Benutzern arbeitet, wird es für Sicherheitsteams schwieriger, ihre Arbeit zu erledigen. „

6. Unternehmen werden Erwartungen an die Nutzung von ChatGPT definieren

Matt Miller, Leiter der Cybersicherheitsdienste bei KPMG, sagte, dass Sicherheit ein Hauptanliegen sein wird, wenn mehr Unternehmen ChatGPT nutzen. Hier sind einige Schritte, um Unternehmen zu helfen Verschaffen Sie sich einen Vorsprung im Jahr 2023:

(1) Legen Sie Erwartungen fest, wie ChatGPT und ähnliche Lösungen in Unternehmensumgebungen verwendet werden sollten. Definieren Sie alle genehmigten Lösungen, Anwendungsfälle und eine Liste von Daten, auf die sich Mitarbeiter verlassen können on; und verlangen Kontrollen, um die Richtigkeit der Antworten zu überprüfen

(2) Einrichtung interner Prozesse zur Überprüfung der Auswirkungen und Entwicklung von Vorschriften hinsichtlich der Nutzung kognitiver Automatisierungslösungen, insbesondere des geistigen Eigentums, der persönlichen Datenverwaltung und Vielfalt.

(3) Implementieren Sie technische Netzwerkkontrollen mit besonderem Augenmerk auf das Testen der Betriebsstabilität und das Scannen auf bösartige Nutzlasten. Zu den zusätzlichen Kontrollen gehören unter anderem: die Autorisierung des Benutzerzugriffs Programme zur Verhinderung von Datenverlust, um sicherzustellen, dass der gesamte von Tools generierte Code einen Standardüberprüfungsprozess durchläuft und Netzwerkfilter konfiguriert wird, um Mitarbeiter zu warnen, wenn sie auf nicht genehmigte Lösungen zugreifen

7

Doug Cahill, Senior Vice President und Senior Analyst bei ESG Corp. Analyst Services, sagte: „Wie die meisten neuen Technologien wird ChatGPT zu einer Ressource für Cyber-Angreifer und -Verteidiger. Zu den gegnerischen Anwendungsfällen gehören Aufklärung und Verteidiger, die nach Best Practices und der Bedrohung suchen.“ Geheimdienstmarkt. Wie bei anderen ChatGPT-Anwendungsfällen variiert die Genauigkeit der Benutzertestantworten, da das KI-System auf einem bereits großen und wachsenden Datenbestand trainiert wird.

Während der ChatGPT-Anwendungsfall weit verbreitet ist, ist der Austausch von Bedrohungsinformationen zwischen Teammitgliedern für die Bedrohungssuche und die Aktualisierung von Regeln und Verteidigungsmodellen vielversprechend. ChatGPT ist jedoch ein weiteres Beispiel dafür, wie KI den menschlichen Faktor ergänzt (anstatt ihn zu ersetzen), der in jedem Anwendungsszenario zur Bedrohungsermittlung erforderlich ist. „

8. Unternehmen werden immer noch mit den gleichen alten Bedrohungen konfrontiert sein

Candid Wuest, Vizepräsident für globale Forschung bei Acronis, sagte: „ChatGPT ist zwar ein leistungsstarkes Sprachgenerierungsmodell, diese Technologie ist jedoch kein eigenständiges Tool und kann nicht eingesetzt werden.“ unabhängig. Es basiert auf Benutzereingaben und ist durch die Daten begrenzt, auf denen es trainiert wird.

Zum Beispiel muss der von diesem Modell generierte Phishing-Text immer noch von einem E-Mail-Konto gesendet und an eine Website weitergeleitet werden. Dies sind traditionelle Indikatoren, die analysiert werden können, um sie zu erkennen.

ChatGPT verfügt zwar über die Fähigkeit, Exploits und Payloads zu schreiben, Tests haben jedoch gezeigt, dass diese Funktionen nicht so gut sind wie ursprünglich angenommen. Die Plattform kann auch zum Schreiben von Malware verwendet werden, und während dieser Code bereits online und in verschiedenen Foren zu finden ist, macht ChatGPT ihn für die breite Masse zugänglicher.

Allerdings sind die Änderungen noch begrenzt, wodurch diese Malware durch verhaltensbasierte Erkennung und andere Methoden leicht erkennbar ist. ChatGPT ist nicht speziell darauf ausgelegt, Schwachstellen anzugreifen oder auszunutzen, kann jedoch die Häufigkeit automatisierter oder simulierter Nachrichten erhöhen. Es senkt die Eintrittsbarriere für Cyberkriminelle, führt jedoch keine völlig neuen Angriffsmethoden für etablierte Unternehmen ein.

Das obige ist der detaillierte Inhalt vonAcht Analystenprognosen für die Sicherheit von ChatGPT im Jahr 2023. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!