|
|
Trí tuệ nhân tạo sẽ thay đổi an ninh thông tin và máy tính như thế nào trong thế giới hạt nhân
Đồng thời, sự tiến bộ nhanh chóng của AI cũng kéo theo nhiều nguy cơ. Những kẻ xấu có thể lợi dụng AI để khởi động các cuộc tấn công có mục tiêu và nâng cao hơn hoặc khai thác nó để xâm nhập tính toàn vẹn của mạng, hệ thống và thông tin nhạy cảm trong các cơ sở phóng xạ và hạt nhân.
Các lợi ích đối với an ninh thông tin và máy tính
IAEA đang chuẩn bị cho những chuyển đổi do AI mang lại bằng cách thúc đẩy hợp tác quốc tế trong khu vực để đảm bảo tất cả các quốc gia có thể hưởng lợi từ các cơ hội đồng thời chuẩn bị để giảm thiểu rủi ro. Thông qua các cơ chế như Cuộc họp kỹ thuật và các dự án nghiên cứu phối hợp (CRP), IAEA đang hỗ trợ phát triển, nhận thức và ứng dụng các kỹ thuật AI, cũng như các biện pháp đối phó và phòng thủ chống lại các tác nhân gây hại.
Có lẽ lợi thế đáng kể nhất của AI trong an ninh thông tin và máy tính là giảm sự phụ thuộc vào sự phân tích và can thiệp của con người. Các hệ thống có sự hỗ trợ của AI có thể hoạt động 24/7 để giám sát các mạng lưới và hệ thống đối với các mối đe dọa. Bằng cách tự động hóa các nhiệm vụ này, các chuyên gia an ninh hạt nhân có thời gian tập trung vào các nhiệm vụ chiến lược hơn và ứng phó hiệu quả hơn với các sự cố khi chúng xảy ra.
“Khả năng học tập thích ứng của AI có thể được khai thác để tăng cường an ninh thông tin và máy tính bằng cách nhanh chóng xác định các mối đe dọa và tự động cung cấp cho các chuyên gia thông tin họ cần để phối hợp các hoạt động ứng phó,” Fan Zhang, Phó Giáo sư tại Viện Công nghệ Georgia, Hoa Kỳ, người đã tham gia vào một dự án CRP để hỗ trợ nghiên cứu tăng cường an ninh máy tính cho biết. “AI sẽ không thay thế lực lượng lao động, mà thay vào đó thiết lập các nguồn lực và hiểu biết giúp phát hiện và ứng phó sớm trong an ninh máy tính trên thực tế.”
Bằng cách tận dụng các thuật toán học máy tiên tiến, AI cũng có thể giúp các cơ sở phóng xạ và hạt nhân tăng cường khả năng phòng thủ trước các cuộc tấn công mạng bằng cách xác định dữ liệu bất thường trong hệ thống máy tính. Các hệ thống bảo mật được AI hỗ trợ có thể liên tục theo dõi và phân tích lượng dữ liệu khổng lồ để xác định xem có bất kỳ hoạt động nào bất thường đối với hoạt động bình thường của cơ sở hay không. Các cuộc tấn công mạng có thể cung cấp dữ liệu giả để đánh lừa các nhà vận hành cơ sở hạt nhân. Trong trường hợp này, các hệ thống có AI hỗ trợ có thể được khai thác để cảnh báo những người đang vận hành nhà máy điện hạt nhân về những thay đổi dù là nhỏ nhất so với hoạt động bình thường. Bằng cách cung cấp khả năng nhận thức tình huống nâng cao, AI cũng cho phép phát hiện sớm các hành động tội phạm và có sự ứng phó cần thiết.
Những thách thức cần giải quyết
Những lợi ích do AI mang lại trong các cơ sở phóng xạ và hạt nhân phụ thuộc lớn vào cách hệ thống AI được đào tạo. AI chỉ thông minh như dữ liệu đào tạo mà nó đang làm và có thể bị thao túng để đưa ra các kết quả và đọc sai nếu không có đầu vào chính xác. Đây vẫn là một rào cản đáng kể đối với việc sử dụng AI cho an ninh hạt nhân. Ngay cả với những tiến bộ gần đây trong công nghệ AI, việc sử dụng để thay thế con người là không khả thi. Bảo vệ thực thể, kế toán và kiểm soát vật liệu và các phép đo trực tiếp - các hoạt động thiết yếu để đảm bảo an ninh hạt nhân – cần phải do con người thực hiện.
Một thách thức khác với AI liên quan đến an ninh hạt nhân là hiểu được làm thế nào và tại sao một mô hình AI lại đưa ra một quyết định hoặc dự đoán cụ thể. “Tính minh bạch và năng lực lý giải là một trong những vấn đề quan trọng nhất đối với các mô hình AI. Thường rất khó để hiểu làm thế nào các mô hình này đưa ra kết luận, gây khó khăn cho việc tin tưởng và đảm bảo tính toàn vẹn của kết quả đầu ra.” Scott Purvis, Trưởng phòng Quản lý Thông tin thuộc Ban An ninh Hạt nhân của IAEA cho biết, “Điều này trở nên đặc biệt có vấn đề khi các mô hình này thay thế các cảm biến cung cấp các phép đo trực tiếp và trải nghiệm của con người có được với các đặc điểm riêng của từng cơ sở. Đưa ra bất kỳ sự đảm bảo nào về tính toàn vẹn của hệ thống trở nên không thực tế trừ khi có sự hiểu biết nâng cao toàn diện trước đó về các thuật toán AI để nhận ra cách thức và lý do các quyết định được đưa ra.”
Hướng dẫn của IAEA về an ninh máy tính đối với an ninh hạt nhân bao gồm các phương pháp hay nhất do con người kiểm tra và cân bằng để hướng dẫn các cơ sở biết được quy trình nào có thể được tự động hóa bằng AI và quy trình nào nên tiếp tục có sự giám sát của con người, ít nhất là cho đến khi những nguy cơ của công nghệ đang phát triển nhanh chóng này được biết đến. Hướng dẫn cũng cung cấp một nguồn tài nguyên thiết yếu có thể cho phép các quốc gia áp dụng các biện pháp an ninh máy tính quan trọng để phát hiện, ngăn chặn và ứng phó với các cuộc tấn công mạng.
Ngoài ra, IAEA đã phát triển một dự án CRP để hỗ trợ nghiên cứu tăng cường an ninh máy tính với tiêu đề “Tăng cường phân tích sự cố an ninh máy tính tại các cơ sở hạt nhân” với sự tham gia của đại diện 13 quốc gia để cùng nhau cải thiện khả năng bảo mật máy tính, bao gồm cả các kỹ thuật AI, tại các cơ sở hạt nhân nhằm phát hiện các điểm bất thường dấu hiệu của cuộc tấn công mạng có chủ đích.
Cuộc đua áp dụng công nghệ AI
AI đã chứng tỏ tiềm năng mang lại lợi ích cho những người sử dụng công nghệ hạt nhân vì mục đích hòa bình. Khi mở rộng việc sử dụng nó để tăng cường các quy trình và hoạt động trong các cơ sở hạt nhân và phóng xạ, thì nhận thức về các rủi ro liên quan đến việc áp dụng cũng phải mở rộng hơn. Các tổ chức phải duy trì một chương trình bảo mật máy tính mạnh mẽ để đảm bảo an ninh hạt nhân đồng thời vẫn tận dụng các lợi ích từ AI.
Muốn vậy đòi hỏi một sự thay đổi cơ bản trong cách đánh giá sự tin tưởng và tính nhạy cảm. Mọi điểm lỗi tiềm ẩn trong một hệ thống phải được xem xét, ngay cả những điểm không liên quan đến thiết kế. Các tác nhân phá hại có thể tận dụng AI để tạo ra phần mềm độc hại tinh vi hơn, tự động hóa các cuộc tấn công mạng, khai thác các thành kiến và lỗ hổng trong các mô hình hoặc qua mặt các biện pháp bảo mật bằng cách bắt chước hành vi của người dùng hợp pháp. Cuộc “chạy đua vũ trang” này giữa những người phòng thủ và những kẻ tấn công sẽ đòi hỏi sự đổi mới và thích ứng liên tục.
Việc sử dụng nhiều hơn công nghệ AI để tăng cường các biện pháp bảo mật máy tính tại các cơ sở hạt nhân có thể mang lại những lợi ích đáng kể, bao gồm nâng cao khả năng phát hiện mối đe dọa, các biện pháp bảo mật chủ động, giảm sự phụ thuộc vào sự can thiệp của con người và cải thiện khả năng ứng phó với sự cố. Bằng cách tận dụng các lợi ích của AI trong khi giải quyết các rủi ro của nó, các tổ chức có thể tăng cường đáng kể khả năng bảo mật máy tính của mình trước các mối đe dọa mạng đang gia tăng.
16:04 02/08/2023: Công nghệ Trí tuệ nhân tạo (AI) và Học máy (machine learning) có khả năng cách mạng hóa thế giới, mở ra những tiến bộ và đổi mới chưa từng có bằng cách thay đổi cách chúng ta tạo ra và sử dụng thông tin. Lĩnh vực hạt nhân cũng không ngoại lệ và AI có thể được mong đợi mang lại lợi ích trong nhiều quy trình và hoạt động tại các cơ sở phóng xạ và hạt nhân.
Các lợi ích đối với an ninh thông tin và máy tính
IAEA đang chuẩn bị cho những chuyển đổi do AI mang lại bằng cách thúc đẩy hợp tác quốc tế trong khu vực để đảm bảo tất cả các quốc gia có thể hưởng lợi từ các cơ hội đồng thời chuẩn bị để giảm thiểu rủi ro. Thông qua các cơ chế như Cuộc họp kỹ thuật và các dự án nghiên cứu phối hợp (CRP), IAEA đang hỗ trợ phát triển, nhận thức và ứng dụng các kỹ thuật AI, cũng như các biện pháp đối phó và phòng thủ chống lại các tác nhân gây hại.
Có lẽ lợi thế đáng kể nhất của AI trong an ninh thông tin và máy tính là giảm sự phụ thuộc vào sự phân tích và can thiệp của con người. Các hệ thống có sự hỗ trợ của AI có thể hoạt động 24/7 để giám sát các mạng lưới và hệ thống đối với các mối đe dọa. Bằng cách tự động hóa các nhiệm vụ này, các chuyên gia an ninh hạt nhân có thời gian tập trung vào các nhiệm vụ chiến lược hơn và ứng phó hiệu quả hơn với các sự cố khi chúng xảy ra.
“Khả năng học tập thích ứng của AI có thể được khai thác để tăng cường an ninh thông tin và máy tính bằng cách nhanh chóng xác định các mối đe dọa và tự động cung cấp cho các chuyên gia thông tin họ cần để phối hợp các hoạt động ứng phó,” Fan Zhang, Phó Giáo sư tại Viện Công nghệ Georgia, Hoa Kỳ, người đã tham gia vào một dự án CRP để hỗ trợ nghiên cứu tăng cường an ninh máy tính cho biết. “AI sẽ không thay thế lực lượng lao động, mà thay vào đó thiết lập các nguồn lực và hiểu biết giúp phát hiện và ứng phó sớm trong an ninh máy tính trên thực tế.”
Bằng cách tận dụng các thuật toán học máy tiên tiến, AI cũng có thể giúp các cơ sở phóng xạ và hạt nhân tăng cường khả năng phòng thủ trước các cuộc tấn công mạng bằng cách xác định dữ liệu bất thường trong hệ thống máy tính. Các hệ thống bảo mật được AI hỗ trợ có thể liên tục theo dõi và phân tích lượng dữ liệu khổng lồ để xác định xem có bất kỳ hoạt động nào bất thường đối với hoạt động bình thường của cơ sở hay không. Các cuộc tấn công mạng có thể cung cấp dữ liệu giả để đánh lừa các nhà vận hành cơ sở hạt nhân. Trong trường hợp này, các hệ thống có AI hỗ trợ có thể được khai thác để cảnh báo những người đang vận hành nhà máy điện hạt nhân về những thay đổi dù là nhỏ nhất so với hoạt động bình thường. Bằng cách cung cấp khả năng nhận thức tình huống nâng cao, AI cũng cho phép phát hiện sớm các hành động tội phạm và có sự ứng phó cần thiết.
Những thách thức cần giải quyết
Những lợi ích do AI mang lại trong các cơ sở phóng xạ và hạt nhân phụ thuộc lớn vào cách hệ thống AI được đào tạo. AI chỉ thông minh như dữ liệu đào tạo mà nó đang làm và có thể bị thao túng để đưa ra các kết quả và đọc sai nếu không có đầu vào chính xác. Đây vẫn là một rào cản đáng kể đối với việc sử dụng AI cho an ninh hạt nhân. Ngay cả với những tiến bộ gần đây trong công nghệ AI, việc sử dụng để thay thế con người là không khả thi. Bảo vệ thực thể, kế toán và kiểm soát vật liệu và các phép đo trực tiếp - các hoạt động thiết yếu để đảm bảo an ninh hạt nhân – cần phải do con người thực hiện.
Một thách thức khác với AI liên quan đến an ninh hạt nhân là hiểu được làm thế nào và tại sao một mô hình AI lại đưa ra một quyết định hoặc dự đoán cụ thể. “Tính minh bạch và năng lực lý giải là một trong những vấn đề quan trọng nhất đối với các mô hình AI. Thường rất khó để hiểu làm thế nào các mô hình này đưa ra kết luận, gây khó khăn cho việc tin tưởng và đảm bảo tính toàn vẹn của kết quả đầu ra.” Scott Purvis, Trưởng phòng Quản lý Thông tin thuộc Ban An ninh Hạt nhân của IAEA cho biết, “Điều này trở nên đặc biệt có vấn đề khi các mô hình này thay thế các cảm biến cung cấp các phép đo trực tiếp và trải nghiệm của con người có được với các đặc điểm riêng của từng cơ sở. Đưa ra bất kỳ sự đảm bảo nào về tính toàn vẹn của hệ thống trở nên không thực tế trừ khi có sự hiểu biết nâng cao toàn diện trước đó về các thuật toán AI để nhận ra cách thức và lý do các quyết định được đưa ra.”
Hướng dẫn của IAEA về an ninh máy tính đối với an ninh hạt nhân bao gồm các phương pháp hay nhất do con người kiểm tra và cân bằng để hướng dẫn các cơ sở biết được quy trình nào có thể được tự động hóa bằng AI và quy trình nào nên tiếp tục có sự giám sát của con người, ít nhất là cho đến khi những nguy cơ của công nghệ đang phát triển nhanh chóng này được biết đến. Hướng dẫn cũng cung cấp một nguồn tài nguyên thiết yếu có thể cho phép các quốc gia áp dụng các biện pháp an ninh máy tính quan trọng để phát hiện, ngăn chặn và ứng phó với các cuộc tấn công mạng.
Ngoài ra, IAEA đã phát triển một dự án CRP để hỗ trợ nghiên cứu tăng cường an ninh máy tính với tiêu đề “Tăng cường phân tích sự cố an ninh máy tính tại các cơ sở hạt nhân” với sự tham gia của đại diện 13 quốc gia để cùng nhau cải thiện khả năng bảo mật máy tính, bao gồm cả các kỹ thuật AI, tại các cơ sở hạt nhân nhằm phát hiện các điểm bất thường dấu hiệu của cuộc tấn công mạng có chủ đích.
Cuộc đua áp dụng công nghệ AI
AI đã chứng tỏ tiềm năng mang lại lợi ích cho những người sử dụng công nghệ hạt nhân vì mục đích hòa bình. Khi mở rộng việc sử dụng nó để tăng cường các quy trình và hoạt động trong các cơ sở hạt nhân và phóng xạ, thì nhận thức về các rủi ro liên quan đến việc áp dụng cũng phải mở rộng hơn. Các tổ chức phải duy trì một chương trình bảo mật máy tính mạnh mẽ để đảm bảo an ninh hạt nhân đồng thời vẫn tận dụng các lợi ích từ AI.
Muốn vậy đòi hỏi một sự thay đổi cơ bản trong cách đánh giá sự tin tưởng và tính nhạy cảm. Mọi điểm lỗi tiềm ẩn trong một hệ thống phải được xem xét, ngay cả những điểm không liên quan đến thiết kế. Các tác nhân phá hại có thể tận dụng AI để tạo ra phần mềm độc hại tinh vi hơn, tự động hóa các cuộc tấn công mạng, khai thác các thành kiến và lỗ hổng trong các mô hình hoặc qua mặt các biện pháp bảo mật bằng cách bắt chước hành vi của người dùng hợp pháp. Cuộc “chạy đua vũ trang” này giữa những người phòng thủ và những kẻ tấn công sẽ đòi hỏi sự đổi mới và thích ứng liên tục.
Việc sử dụng nhiều hơn công nghệ AI để tăng cường các biện pháp bảo mật máy tính tại các cơ sở hạt nhân có thể mang lại những lợi ích đáng kể, bao gồm nâng cao khả năng phát hiện mối đe dọa, các biện pháp bảo mật chủ động, giảm sự phụ thuộc vào sự can thiệp của con người và cải thiện khả năng ứng phó với sự cố. Bằng cách tận dụng các lợi ích của AI trong khi giải quyết các rủi ro của nó, các tổ chức có thể tăng cường đáng kể khả năng bảo mật máy tính của mình trước các mối đe dọa mạng đang gia tăng.
TTĐT, theo IAEA
Tin bài khác
Thống kê truy cập
Online: 11
Số lượt truy cập: 10343561
Lên đầu trang
 |