Est-il temps de commencer à s’inquiéter des pirates informatiques ?

L'attaque IA déterminera d'abord la cible, puis obtiendra des commentaires et optimisera et améliorera continuellement. Si un jour l’IA parvient à développer des solutions totalement nouvelles ou même à commencer à optimiser des solutions, son caractère mortel sera énorme.

L'ambiguïté du système est la barrière actuelle contre les pirates informatiques

Pour des jeux comme Go, les règles, les objectifs et les retours sont tous simples et certains. Il n'y a aucune chose externe qui perturbe la situation. Perdre ou gagner est un retour. . L'IA GPT-3 peut écrire des articles cohérents car le monde dans lequel elle vit n'est que du texte. Pour cette raison, de nombreuses activités de récompense actuelles des pirates informatiques sont menées dans des environnements simulés, tous artificiels, tous contraints et toutes les règles sont préparées pour l'IA.

Le flou du système est la clé. Nous pouvons saisir toutes les lois fiscales mondiales dans l’IA, car il existe des formules dans les lois fiscales pour déterminer le montant de l’impôt à payer. Malgré cela, toutes les lois comportent des ambiguïtés. Le flou est difficile à traduire en code et délicat à gérer pour l’IA. Ainsi, même avec l’IA, il y aura encore besoin de nombreux avocats fiscalistes dans un avenir proche.

La plupart des systèmes humains sont plus ambigus. L’IA pourrait-elle être utilisée pour pirater des jeux sportifs du monde réel (comme les matchs de hockey) ? J'ai peur que ce soit difficile. L'IA doit comprendre les règles du jeu, mais cela ne suffit pas. Elle doit également comprendre la physiologie humaine, l'aérodynamique des clubs et des ballons, et bien plus encore. Bien sûr, nous ne pouvons pas dire que c'est absolument impossible, mais c'est certainement beaucoup plus difficile que de faire face à Go.

À court terme, c’est précisément parce que les systèmes sociaux sont extrêmement complexes et ambigus que la défense du système contre les pirates IA est renforcée. Il est peu probable que des hackers sportifs IA apparaissent à l’avenir. Si les robots participent à des jeux en personne, ou si un jour dans le futur l’IA est si avancée qu’elle peut comprendre le vaste monde sous toutes ses dimensions, alors peut-être que des hackers sportifs IA naîtront.

De même, les pirates informatiques de casino et les pirates informatiques de processus juridiques ne sont pas faciles à développer. Il faudra beaucoup de temps à l’IA pour simuler le travail d’individus ou de groupes, et ce n’est pas possible pour le moment.

Mais ne sous-estimez pas les capacités d'évolution non linéaire de l'IA

Le monde est plein de hackers IA. C'est un problème de science-fiction, mais ce n'est pas un problème de science-fiction stupide. L’IA s’améliore rapidement, mais ses progrès sont instables et incohérents. Les problèmes que nous pensions difficiles peuvent s’avérer faciles, et les problèmes que nous pensions faciles peuvent s’avérer difficiles. Il y a quelques décennies, nous aurions pu rire de l’IA et penser qu’il lui serait impossible de conquérir le Go parce que le Go était trop complexe : non pas que les règles étaient complexes, mais qu’il y avait trop de mouvements possibles. Et maintenant ? L'IA a déjà gagné Go.

Nous devrions donc réfléchir à l'avance au problème des pirates informatiques et préparer des plans à l'avance.

Tout d’abord, nous devrions prêter attention aux pirates informatiques du système financier, car les règles du système financier sont facilement exploitées par les algorithmes. Les algorithmes de trading haute fréquence en sont un bon exemple et deviendront plus complexes à l’avenir. Nous pouvons doter l'IA d'informations financières mondiales en temps réel, ajouter des lois et réglementations mondiales, ajouter des informations d'actualité et ajouter d'autres informations pertinentes, puis assigner l'IA à atteindre un objectif, en poursuivant le « profit légal maximum » ou « l'obtention du plus grand profit possible ». ". profit". À ce moment-là, certains comportements de piratage peuvent échapper à la compréhension humaine, ce qui signifie que les humains ne se rendront même pas compte que des comportements de piratage ont eu lieu. Bien sûr, une telle chose semble un peu lointaine maintenant.

À court terme, l’IA pourrait coopérer avec les humains pour mener à bien des attaques de piratage. L’IA peut trouver des failles, et des comptables ou des avocats fiscalistes expérimentés peuvent collaborer et utiliser leur riche expérience pour déterminer si les failles peuvent être exploitées à des fins lucratives.

La létalité des pirates informatiques matures est incommensurable

Tout au long de l’histoire de l’humanité, les attaques de pirates informatiques sont généralement des comportements humains. Si l’IA commence à attaquer, tout va changer. L’IA ne se limitera pas à certaines méthodes et ne sera pas soumise à de nombreuses restrictions comme les humains. L'IA ne se repose pas du tout, elle pense comme des extraterrestres et elle peut pirater des systèmes d'une manière que les humains ne peuvent pas prédire.

Les ordinateurs améliorent les attaques dans quatre dimensions : vitesse, ampleur, portée et complexité. L'IA peut augmenter la puissance d'attaque plusieurs fois.

Vitesse : Cela peut prendre des mois, voire des années, aux humains pour lancer une attaque, mais cela peut prendre des jours, des heures ou même des secondes. Par exemple, que se passerait-il si vous introduisiez l’intégralité du code fiscal américain dans une IA et lui demandiez de trouver un plan pour minimiser la facture fiscale de quelqu’un ? S’il s’agit d’une entreprise multinationale, l’IA peut être utilisée pour analyser les lois fiscales mondiales et réduire les impôts de l’entreprise.

Échelle : Une fois qu'une IA découvre une vulnérabilité, elle peut l'exploiter à une échelle extrêmement grande. Lorsque l’IA commencera à pénétrer le système financier, elle dominera l’ensemble du secteur. À ce moment-là, les marchés du crédit, les lois fiscales et les lois générales pourraient tous pencher en faveur des riches. L’IA aggravera les inégalités. Les premiers hackers financiers IA ne seront peut-être pas développés par des chercheurs en quête d’égalité, mais par des banques multinationales, des fonds spéculatifs et des consultants en gestion.

Portée : La société a effectivement un plan pour faire face aux pirates informatiques, mais il s'agit principalement de pirates informatiques humains et d'attaques à vitesse humaine. Si l’IA parvient rapidement à trouver des centaines de failles dans les lois fiscales, comment le pays pourra-t-il y faire face ? La vitesse de modification des lois fiscales ne peut tout simplement pas suivre.

Complexité : Avec l'aide de l'IA, les pirates informatiques peuvent lancer des attaques complexes dont la complexité dépasse le niveau de compréhension humaine sans assistance. L’analyse statistique sophistiquée de l’IA peut révéler des relations entre les variables et découvrir des vulnérabilités cachées dont même les meilleurs stratèges et experts ne sont peut-être pas conscients.

Lorsque l'IA lance des attaques à une vitesse ultra-rapide, à une échelle ultra-large, à une portée ultra-large et à une complexité ultra-élevée, la société peut ne pas être du tout en mesure de la gérer. L’IA brisera-t-elle les limites humaines et dominera-t-elle la société ? Certains chercheurs en IA sont en effet inquiets. Même si cela ressemble aujourd’hui à de la spéculation, une prévention précoce reste nécessaire pour les humains. (Xiao Ge)

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!