PwC: 11 Sicherheitstrends bei ChatGPT und generativer KI

Kürzlich teilten Analysten von PwC dem ausländischen Technologiemedium VentureBeat ihre Ansichten darüber mit, wie sich Tools wie generative künstliche Intelligenz und ChatGPT auf die Bedrohungslandschaft auswirken werden und welche Anwendungsfälle sich für Verteidiger ergeben werden.

Sie glauben, dass die Fähigkeit der KI, bösartigen Code und Phishing-E-Mails zu generieren, zwar neue Herausforderungen für Unternehmen mit sich bringt, aber auch die Tür zu einer Reihe defensiver Anwendungsfälle öffnet, wie z Bedrohungserkennung, Anleitung zur Behebung und Schutz von Kubernetes und Cloud-Umgebungen.

Insgesamt sind Analysten optimistisch, dass defensive Anwendungsfälle langfristig zunehmen werden, um böswilligen Einsatz von KI zu bekämpfen.

Hier sind 11 Vorhersagen darüber, wie sich generative KI in Zukunft auf die Cybersicherheit auswirken wird.

1. Böswilliger Einsatz künstlicher Intelligenz#🎜🎜 #

Wir befinden uns an einem Wendepunkt, wenn es darum geht, wie wir künstliche Intelligenz nutzen können, einem Paradigmenwechsel, der jeden und alles betrifft. Wenn KI in den Händen von Bürgern und Verbrauchern liegt, können großartige Dinge passieren.

Gleichzeitig kann es von böswilligen Bedrohungsakteuren für schändliche Zwecke wie Malware und raffinierte Phishing-E-Mails verwendet werden.

Angesichts der vielen Unbekannten über die zukünftigen Fähigkeiten und das Potenzial künstlicher Intelligenz ist es von entscheidender Bedeutung, dass Unternehmen starke Verfahren entwickeln, um Widerstandsfähigkeit gegen bösartige Netzwerke aufzubauen.

Es bedarf auch einer Regulierung, die auf gesellschaftlichen Werten basiert und vorschreibt, dass der Einsatz dieser Technologie ethisch sein muss. Gleichzeitig müssen wir dieses Tool „intelligent“ nutzen und überlegen, welche Sicherheitsvorkehrungen erforderlich sind, damit die KI den größtmöglichen Nutzen bringt und gleichzeitig das Risiko minimiert.

2. Notwendigkeit, das Training und die Leistung künstlicher Intelligenz zu schützen

#🎜 🎜# Jetzt, da generative KI die Macht hat, zur Transformation von Unternehmen beizutragen, ist es für Führungskräfte wichtig, mit Unternehmen zusammenzuarbeiten, die ein tiefes Verständnis dafür haben, wie sie mit wachsenden Sicherheits- und Datenschutzaspekten umgehen können.

Es gibt zwei Gründe. Erstens müssen Unternehmen die Ausbildung von KI schützen, denn das einzigartige Wissen, das sie durch die Feinabstimmung von Modellen gewinnen, wird entscheidend dafür sein, wie sie ihre Geschäfte führen, bessere Produkte und Dienstleistungen liefern und mit Mitarbeitern, Kunden und Ökosystemen interagieren.

Zweitens müssen Unternehmen auch die Hinweise und Reaktionen schützen, die sie von generativen KI-Lösungen erhalten, da sie die Kunden und Mitarbeiter des Unternehmens widerspiegeln, die die Technologie nutzen und was tun.

3. Entwickeln Sie eine Richtlinie für den Einsatz generativer künstlicher Intelligenz #🎜 🎜# Es gibt viele interessante Unternehmen, die darüber nachdenken, Ihre eigenen Inhalte, Dateien und Assets zu verwenden, um ein generatives KI-Modell weiter zu trainieren (zu verfeinern), damit es die einzigartigen Fähigkeiten Ihres Unternehmens in Ihrem (Branchen-/Berufs-)Kontext nutzen kann Anwendungsfall erscheint. Auf diese Weise können Unternehmen ihr einzigartiges geistiges Eigentum und Wissen nutzen, um die Funktionsweise generativer KI zu erweitern.

Hier werden Sicherheit und Privatsphäre wichtig. Für ein Unternehmen sollte die Art und Weise, wie Sie generative KI zur Produktion von Inhalten nutzen, die Privatsphäre Ihres Unternehmens wahren. Glücklicherweise berücksichtigen die meisten generativen KI-Plattformen dies von Anfang an und sind darauf ausgelegt, Inhalte sicher und privat anzufordern, auszugeben und zu verfeinern.

Jetzt verstehen das jedoch alle Benutzer. Daher muss jedes Unternehmen Richtlinien für den Einsatz generativer KI festlegen, um zu verhindern, dass vertrauliche und private Daten in öffentliche Systeme gelangen, und eine sichere Umgebung für generative KI innerhalb des Unternehmens schaffen.

4. Modernes Sicherheitsaudit

Generative künstliche Intelligenz Es ist dürfte zu Innovationen in der Prüfungsarbeit führen. Hochentwickelte generative KI ist in der Lage, Antworten zu erstellen, die bestimmte Situationen berücksichtigen und gleichzeitig in einer einfachen, verständlichen Sprache verfasst sind.

Diese Technologie bietet einen zentralen Punkt für Informationen und Anleitung und ermöglicht gleichzeitig die Automatisierung von Dokumenten und die Analyse von Daten, um auf spezifische Anfragen zu reagieren – und das mit großer Effizienz. Es ist ein Win-Win-Ergebnis.

Es ist leicht zu erkennen, dass diese Funktion unseren Mitarbeitern ein besseres Erlebnis und damit auch unseren Kunden ein besseres Erlebnis bieten kann.

5. Achten Sie stärker auf Datenhygiene und Bewertungsverzerrungen.

Alle in ein System der künstlichen Intelligenz eingegebenen Daten laufen Gefahr, gestohlen oder missbraucht zu werden. Erstens trägt die Bestimmung der geeigneten Daten zur Eingabe in das System dazu bei, das Risiko des Verlusts vertraulicher und privater Informationen zu verringern.

Außerdem ist es wichtig, eine ordnungsgemäße Datenerfassung durchzuführen, um detaillierte und gezielte Tipps zu formulieren und diese in das System einzuspeisen, damit Sie einen wertvolleren Output erhalten.

Sobald Sie Ihre Ausgabe haben, müssen Sie prüfen, ob es im System inhärente Verzerrungen gibt. Ziehen Sie während dieses Prozesses ein vielfältiges Team von Fachleuten hinzu, um bei der Beurteilung etwaiger Vorurteile behilflich zu sein.

Im Gegensatz zu codierten oder skriptbasierten Lösungen basiert generative KI auf trainierten Modellen, sodass die Antworten, die sie geben, nicht zu 100 % vorhersehbar sind. Damit generative KI die zuverlässigsten Ergebnisse liefert, ist die Zusammenarbeit zwischen der Technologie dahinter und den Menschen, die sie nutzen, erforderlich.

6. Bleiben Sie mit den wachsenden Risiken Schritt und beherrschen Sie die Grundlagen

Da generative KI nun weit verbreitet ist, ist die Implementierung starker Sicherheitsmaßnahmen ein Muss, um sich vor Bedrohungsakteuren zu schützen. Die Fähigkeiten dieser Technologie ermöglichen es Cyberkriminellen, Deepfake-Bilder zu erstellen und Malware- und Ransomware-Angriffe einfacher auszuführen. Unternehmen müssen auf diese Herausforderungen vorbereitet sein.

Den effektivsten Cyber-Maßnahmen wird weiterhin die geringste Beachtung geschenkt: Durch die Aufrechterhaltung grundlegender Cyber-Hygiene und die Komprimierung sperriger Altsysteme können Unternehmen Cyberkriminelle reduzieren.

Durch die Konsolidierung von Betriebsumgebungen werden Kosten gesenkt, sodass Unternehmen ihre Effizienz maximieren und sich auf die Verbesserung ihrer Cybersicherheitsmaßnahmen konzentrieren können.

7. Neue Arbeitsplätze und Verantwortlichkeiten schaffen

Alles in allem empfehle ich Unternehmen, die Einführung generativer KI in Betracht zu ziehen, anstatt Firewalls und Widerstand aufzubauen – jedoch mit geeigneten Schutzmaßnahmen und Maßnahmen zur Risikominderung. Generative KI bietet ein sehr interessantes Potenzial für die Art und Weise, wie Arbeit erledigt wird; sie kann tatsächlich dazu beitragen, menschliche Zeit für Analyse und Erstellung freizugeben.

Das Aufkommen der generativen KI hat das Potenzial, zu neuen Arbeitsplätzen und Verantwortlichkeiten im Zusammenhang mit der Technologie selbst zu führen – und eine Verantwortung dafür zu schaffen, dass KI ethisch und verantwortungsvoll eingesetzt wird.

Außerdem müssen Mitarbeiter, die diese Informationen nutzen, eine neue Fähigkeit entwickeln – die Fähigkeit, zu bewerten und zu erkennen, ob die erstellten Inhalte korrekt sind.

So wie Taschenrechner für einfache mathematische Aufgaben verwendet werden, müssen im täglichen Einsatz generativer KI noch viele menschliche Fähigkeiten eingesetzt werden – wie etwa kritisches Denken und gezielte Anpassung –, um die volle Kraft der generativen KI zu entfesseln künstliche Intelligenz.

Obwohl es oberflächlich betrachtet wie eine Bedrohung für die Fähigkeit zur Automatisierung menschlicher Aufgaben erscheinen mag, kann es auch Kreativität freisetzen und Menschen dabei helfen, bei der Arbeit hervorragende Leistungen zu erbringen.

8. Nutzung künstlicher Intelligenz zur Optimierung von Netzwerkinvestitionen

Selbst angesichts der wirtschaftlichen Unsicherheit versuchen Unternehmen nicht aktiv, ihre Ausgaben für Cybersicherheit im Jahr 2023 zu reduzieren. Ist es wirtschaftlicher?

Sie stehen unter dem Druck, mit weniger mehr zu erreichen, was sie dazu veranlasst, in Technologie zu investieren, die übermäßig manuelle Prozesse zur Risikoprävention und -minderung durch automatisierte Alternativen ersetzt.

Generative KI ist zwar nicht perfekt, aber sehr schnell, effizient und kohärent, und die Fähigkeiten verbessern sich rasch. Durch die Implementierung der richtigen Risikotechnologie – beispielsweise maschineller Lernmechanismen, die für eine bessere Risikoabdeckung und -erkennung konzipiert sind – können Unternehmen Geld, Zeit und Personal sparen und künftige Unsicherheiten besser bewältigen und ihnen standhalten.

9. Verbessern Sie die Bedrohungsintelligenz

Beim Freigeben generativer künstlicher Intelligenz Unternehmen mit intelligenten Fähigkeiten konzentrieren sich auf den Schutz, um die Entstehung und Verbreitung von Malware, Fehlinformationen oder Desinformationen zu verhindern. Wir müssen jedoch davon ausgehen, dass generative KI von böswilligen Akteuren für diese Zwecke genutzt wird, und im Voraus handeln.

Im Jahr 2023 erwarten wir weitere Verbesserungen bei Bedrohungsinformationen und anderen Verteidigungsfähigkeiten, um generative KI zu nutzen, um Gutes für die Gesellschaft zu tun. Generative KI wird grundlegende Fortschritte bei der Effizienz und der Vertrauensentscheidungsfindung in Echtzeit ermöglichen. Beispielsweise können aus dem Zugriff auf Systeme und Informationen in Echtzeit Schlussfolgerungen gezogen werden, und zwar mit einem viel höheren Maß an Zuverlässigkeit als derzeit eingesetzte Zugriffs- und Identitätsmodelle.

Sicher ist, dass generative KI tiefgreifende Auswirkungen auf jede Branche und die Art und Weise haben wird, wie Unternehmen in dieser Branche arbeiten. Diese Fortschritte werden auch weiterhin bestehen bleiben Von Menschen geleitet und technologiegetrieben, wobei die schnellsten Fortschritte im Jahr 2023 zu verzeichnen sind und die Richtung für die kommenden Jahrzehnte vorgeben.

10. Bedrohungsprävention und Management von Compliance-Risiken

Mit Während sich die Bedrohungslandschaft weiterentwickelt, gerät der Gesundheitssektor – eine Branche voller persönlicher Daten – weiterhin ins Fadenkreuz der Bedrohungsakteure. Führungskräfte der Gesundheitsbranche erhöhen ihre Cyber-Budgets und investieren in Automatisierungstechnologien, die nicht nur dazu beitragen können, Cyber-Angriffe zu verhindern, sondern auch Compliance-Risiken zu bewältigen, Patienten- und Personaldaten besser zu schützen, Gesundheitskosten zu senken, ineffiziente Prozesse zu reduzieren und vieles mehr.

Mit der Weiterentwicklung der generativen KI steigen auch die Risiken und Chancen, die mit der Sicherung der Gesundheitssysteme verbunden sind, was den wachsenden Bedarf der Gesundheitsbranche unterstreicht, diese neue Technologie beim Aufbau ihres Cybernetzwerks zu nutzen Abwehrkräfte und Resilienz.

11. Umsetzung einer digitalen Vertrauensstrategie

Generative Künstliche Intelligenz Das Innovationstempo bei anderen Technologien in Kombination mit einem sich entwickelnden „Flickenteppich“ an Regulierung und der Erosion des institutionellen Vertrauens erfordert einen strategischeren Ansatz.

Durch die Verfolgung einer digitalen Vertrauensstrategie können Unternehmen traditionell isolierte Funktionen wie Cybersicherheit, Datenschutz und Datenverwaltung besser koordinieren, sodass sie Risiken antizipieren und gleichzeitig Mehrwert schaffen können für Unternehmen.

Im Kern identifiziert das Digital Trust Framework Lösungen, die über die Einhaltung von Vorschriften hinausgehen – stattdessen stehen Vertrauen und Werteaustausch zwischen Organisationen und Kunden im Vordergrund.

Das obige ist der detaillierte Inhalt vonPwC: 11 Sicherheitstrends bei ChatGPT und generativer KI. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!