Trong bài viết này, chúng tôi sẽ cung cấp số liệu thống kê và thông tin chi tiết về những thách thức cũng như vấn đề an ninh mạng phát sinh từ việc mở rộng AI.
Các chuyên gia bảo mật lạc quan một cách thận trọng về AI
Theo Liên minh bảo mật đám mây và Google Cloud | Báo cáo khảo sát tình trạng AI và bảo mật | tháng 4 năm 2024
- 55% tổ chức có kế hoạch áp dụng các giải pháp GenAI trong năm nay, báo hiệu sự gia tăng đáng kể trong việc tích hợp GenAI.
- 48% chuyên gia bày tỏ sự tin tưởng vào khả năng tổ chức của họ thực hiện chiến lược tận dụng AI trong bảo mật.
- 12% chuyên gia bảo mật tin rằng AI sẽ thay thế hoàn toàn vai trò của họ.
Các chiến dịch lạm dụng và thông tin sai lệch về AI đe dọa các tổ chức tài chính
FS-ISAC | Navigating Cyber 2024 | March 2024
- Những kẻ đe dọa có thể sử dụng AI tổng hợp để viết phần mềm độc hại và tội phạm mạng lành nghề hơn có thể lấy thông tin hoặc đưa dữ liệu bị nhiễm vào các mô hình ngôn ngữ lớn (LLM) đào tạo GenAI.
- Những tiến bộ về điện toán lượng tử và AI gần đây dự kiến sẽ thách thức các thuật toán mã hóa đã được thiết lập.
Doanh nghiệp ngày càng chặn giao dịch AI vì lo ngại bảo mật
Zscaler | AI Security Report 2024 | March 2024
- Ngày nay, 18,5% doanh nghiệp chặn tất cả giao dịch AI, tăng 577% từ tháng 4 đến tháng 1, với tổng số hơn 2,6 tỷ giao dịch bị chặn.
- Một số công cụ AI phổ biến nhất cũng bị chặn nhiều nhất. Thật vậy, ChatGPT nổi bật là ứng dụng AI được sử dụng nhiều nhất và bị chặn nhiều nhất.
Những kẻ lừa đảo khai thác nhắm vào dịch vụ thuế bằng các công cụ AI
McAfee | Tax Scams Study 2024 | March 2024
- Trong số những người nhấp vào liên kết lừa đảo từ các dịch vụ thuế được cho là, 68% bị mất tiền. Trong số đó, 29% mất hơn 2.500 USD và 17% mất hơn 10.000 USD.
- 9% người Mỹ cảm thấy tự tin vào khả năng phát hiện các video deepfake hoặc nhận dạng âm thanh do AI tạo ra, chẳng hạn như các bản trình diễn giả mạo của các đặc vụ IRS.
AI, phân tích và tự động hóa nâng cao là rất quan trọng để giải quyết sự phức tạp của ngăn xếp công nghệ
Dynatrace | The state of observability 2024 | March 2024
- 97% các nhà lãnh đạo công nghệ nhận thấy các mô hình AIOps truyền thống không thể giải quyết tình trạng quá tải dữ liệu.
- 88% tổ chức cho biết mức độ phức tạp của hệ thống công nghệ của họ đã tăng lên trong 12 tháng qua và 51% cho biết mức độ phức tạp này sẽ tiếp tục tăng.
- 72% tổ chức đã áp dụng AIOps để giảm bớt sự phức tạp trong việc quản lý môi trường đa đám mây của họ.
Những thách thức bảo mật AI lớn nhất hiện nay
HiddenLayer | AI Threat Landscape Report 2024 | March 2024
- 98% công ty được khảo sát coi một số mô hình AI của họ là quan trọng đối với sự thành công trong kinh doanh và 77% đã gặp phải các vi phạm trong hệ thống AI của họ trong năm qua.
- 61% lãnh đạo CNTT thừa nhận Shadow AI, các giải pháp chưa được bộ phận CNTT chính thức biết đến hoặc chưa kiểm soát, là một vấn đề trong tổ chức của họ.
- Các nhà nghiên cứu tiết lộ việc sử dụng rộng rãi AI trong các doanh nghiệp hiện đại, ghi nhận trung bình có 1.689 mô hình AI được các công ty tích cực sử dụng. Điều này khiến bảo mật AI trở thành ưu tiên hàng đầu, với 94% lãnh đạo CNTT dành quỹ để bảo vệ AI của họ vào năm 2024.
Các công cụ AI khiến các công ty có nguy cơ bị đánh cắp dữ liệu
Code42 | Annual Data Exposure Report 2024 | March 2024
- Kể từ năm 2021, số vụ lộ, mất, rò rỉ và trộm cắp dữ liệu do nội bộ điều khiển hàng tháng đã tăng trung bình 28%.
- Trong khi 99% công ty có sẵn giải pháp bảo vệ dữ liệu thì 78% các nhà lãnh đạo an ninh mạng thừa nhận họ vẫn có dữ liệu nhạy cảm bị vi phạm, rò rỉ hoặc lộ lọt.
95% tin rằng LLM khiến việc phát hiện lừa đảo trở nên khó khăn hơn
LastPass | LastPass survey 2024 | March 2024
- Hơn 95% số người được hỏi tin rằng nội dung động thông qua Mô hình ngôn ngữ lớn (LLM) khiến việc phát hiện các nỗ lực lừa đảo trở nên khó khăn hơn.
- Lừa đảo sẽ vẫn là mối đe dọa kỹ thuật xã hội hàng đầu đối với các doanh nghiệp trong suốt năm 2024, vượt qua các mối đe dọa khác như xâm phạm email doanh nghiệp, truy cập trực tuyến, bôi nhọ hoặc dụ dỗ.
AI đang định hình lại bối cảnh việc làm an ninh mạng như thế nào
ISC2 | AI Cyber 2024 | February 2024
- 88% chuyên gia an ninh mạng tin rằng AI sẽ tác động đáng kể đến công việc của họ, hiện tại hoặc trong tương lai gần và 35% đã chứng kiến những tác động của nó.
- 75% số người được hỏi ở mức độ vừa phải đến cực kỳ lo ngại rằng AI sẽ được sử dụng cho các cuộc tấn công mạng hoặc các hoạt động độc hại khác.
- Cuộc khảo sát cho thấy 12% số người được hỏi cho biết tổ chức của họ đã chặn tất cả quyền truy cập vào các công cụ AI sáng tạo tại nơi làm việc.
Các doanh nghiệp cấm hoặc hạn chế sử dụng GenAI vì rủi ro về quyền riêng tư
Cisco | Cisco 2024 Data Privacy Benchmark Study | February 2024
- 63% đã thiết lập các giới hạn về loại dữ liệu có thể được nhập, 61% đặt ra giới hạn về việc nhân viên có thể sử dụng các công cụ GenAI và 27% cho biết tổ chức của họ đã cấm hoàn toàn các ứng dụng GenAI trong thời điểm hiện tại.
- Bất chấp chi phí và yêu cầu mà luật về quyền riêng tư có thể áp đặt lên các tổ chức, 80% số người được hỏi cho biết luật về quyền riêng tư đã tác động tích cực đến họ và chỉ 6% cho biết tác động là tiêu cực.
- 91% tổ chức nhận ra rằng họ cần phải làm nhiều hơn để trấn an khách hàng rằng dữ liệu của họ chỉ được sử dụng cho các mục đích chính đáng và hợp pháp trong AI.
Khai thác toàn bộ tiềm năng của GenAI thông qua việc đổi mới công việc
Accenture | Work, workforce, workers: Reinvented in the age of generative AI | January 2024
- Trong khi 95% người lao động thấy được giá trị khi làm việc với GenAI thì 60% cũng lo ngại về tình trạng mất việc, căng thẳng và kiệt sức.
- 47% những người đổi mới đã suy nghĩ lớn hơn—nhận ra rằng quy trình của họ sẽ cần có sự thay đổi đáng kể để tận dụng tối đa GenAI.
Đối thủ khai thác xu hướng, nhắm mục tiêu vào các ứng dụng GenAI phổ biến
Netskope | Cloud and Threat Report 2024 | January 2024
- Vào năm 2023, ChatGPT là ứng dụng AI tổng hợp phổ biến nhất, chiếm 7% mức sử dụng của doanh nghiệp.
- Một nửa số người dùng doanh nghiệp tương tác với từ 11 đến 33 ứng dụng đám mây mỗi tháng, trong đó 1% người dùng hàng đầu sử dụng hơn 96 ứng dụng mỗi tháng.
Nguồn: HelpNetSEC
