Menu Menu

Bạn quyết định – liệu 'Apple Intelligence' có an toàn và bảo mật không?

Apple Intelligence được quảng cáo là trợ lý AI được thiết kế để giúp quản trị viên hàng ngày trở nên dễ dàng. Điều đó có nghĩa là nó có thể sàng lọc các tin nhắn và email riêng tư của chúng ta. Apple tuyên bố hệ thống này hoàn toàn an toàn nhưng bạn có đủ tự tin để sử dụng nó không?

Sau khi chờ đợi thời cơ, Apple cuối cùng cũng ngả mũ trước lĩnh vực AI thương mại.

Việc muộn một cách hợp lý (khoảng hai năm) chắc chắn là một rủi ro, nhưng cũng có những mặt tích cực đáng kể – chủ yếu là tận dụng những thiếu sót được nhận thấy của đối thủ.

Một trong những mối quan tâm chính xung quanh nỗi ám ảnh mới nhất của Tech là quyền riêng tư và bảo mật. Làm thế nào bạn có thể đảm bảo với mọi người rằng thông tin nhạy cảm của họ được an toàn khi các quy trình của AI còn mơ hồ và khả năng của nó liên tục thay đổi?

Bây giờ mới có luật sắp có hiệu lực chẳng hạn như về những gì các công ty được phép lấy từ web để đào tạo các mô hình học sâu của họ.

Các biện pháp bảo vệ của ngành, thường được coi là lỏng lẻo, khó thực thi một cách hiệu quả do tốc độ phát triển chóng mặt của AI và số lượng công ty xây dựng nền tảng riêng của họ.

Tuy nhiên, theo phong cách hoành tráng điển hình, Apple tuyên bố họ đã giải quyết được vấn đề về quyền riêng tư – mặc dù đã cung cấp ứng dụng AI được cho là xâm lấn nhất – tại WWDC tuần trước.


Apple Intelligence là gì?

Tầm nhìn của Apple đối với AI nói chung là tạo ra một trợ lý có mặt ở khắp nơi để hợp lý hóa các hoạt động quản trị hàng ngày của bất kỳ ai sở hữu thiết bị của họ. Siri, trợ lý giọng nói phổ biến của nó, cũng đã được tăng cường.

Phần giới thiệu của nó nhấn mạnh 'hỗ trợ email' là một tính năng chính, trong đó AI cung cấp các đề xuất thông minh, sắp xếp tự động và phản hồi được cá nhân hóa dựa trên ngữ cảnh và lịch sử của người nhận email. Không thể phủ nhận nó rất ấn tượng.

Nếu ai đó gửi email với một truy vấn cụ thể, AI sẽ tìm kiếm qua các email trước đó và ngay lập tức chọn ra câu trả lời, đồng thời cho phép tạo liền mạch các lời nhắc và cuộc họp dưới dạng hành động tiếp theo.

Trong khi đó, nội dung thực tế của email có thể được tạo hoặc sửa đổi hoàn toàn về giọng điệu và ngữ pháp chỉ trong vài giây.

Làm nền tảng cho toàn bộ sản phẩm, 'nhận thức theo ngữ cảnh' được cho là có thể hiểu được những người liên hệ của chúng tôi là ai trên tất cả các ứng dụng của chúng tôi.

Điều đó có nghĩa là, nếu bạn muốn biết mấy giờ máy bay của mẹ bạn hạ cánh, Siri sẽ tìm kiếm tin nhắn, email, WhatsApp, Insta Dms và lịch sử thư từ khác của bạn và nhanh chóng tìm thấy câu trả lời được trình bày trong thông báo tùy chỉnh.

Trên một hành trình xe buýt buồn tẻ, bạn có thể nói hoặc nhập 'Phát podcast mà Jess đang nói đến' và nó sẽ thực hiện các bước cần thiết để kiểm tra tin nhắn của bạn và phát phương tiện từ ứng dụng của bên thứ ba.

Bạn cũng có thể tạo các biểu tượng cảm xúc và đồ họa cụ thể có khả năng ghi lại chân dung của người bạn đang nhắn tin ở dạng phác thảo hoặc hoạt hình.

Nếu, giống như tôi, bộ não của bạn không được thiết kế một cách tự nhiên cho việc tổ chức, thì Apple Intelligence nghe có vẻ mơ mộng theo nghĩa thực tế. Tuy nhiên, với những lo ngại về bảo mật xung quanh AI, liệu có nhược điểm lớn hoặc cơn bão về quyền riêng tư sắp xảy ra không?


Sự quan tâm tất yếu của dư luận

Apple sẽ khiến bạn tin là không.

Trên thực tế, một điểm quan trọng của buổi giới thiệu liên tục được nhắc lại là Apple đang duy trì luồng dữ liệu người dùng một cách nghiêm ngặt 'trên thiết bị'.

Chúng ta đã quen với việc dữ liệu người dùng của mình trở thành hàng hóa dành cho các công ty, nhưng Apple đảm bảo rằng không có dấu vết nào của Apple Intelligence sẽ xuất hiện trên máy chủ của bên thứ ba. Phó chủ tịch cấp cao về kỹ thuật phần mềm của công ty cho biết: “Nó [Apple] nhận biết được dữ liệu của bạn mà không thu thập dữ liệu cá nhân của bạn”. Craig Federighi.

Khi các yêu cầu phức tạp của người dùng vượt quá giới hạn của thiết bị để sử dụng Mô hình ngôn ngữ lớn, Apple Điện toán đám mây riêng dịch vụ sẽ xử lý các yêu cầu - được cho là không lưu trữ dữ liệu hoặc giúp Apple có thể truy cập dữ liệu.

Công ty tuyên bố rằng họ sẽ cung cấp mọi bản dựng sản xuất của chương trình Điện toán đám mây riêng cho các nhà nghiên cứu bảo mật để kiểm tra lỗ hổng và lên kế hoạch đưa chương trình này vào danh sách thưởng lỗi.

Những nỗ lực của Apple nhằm bảo vệ người dùng của mình rất rõ ràng, đáng khen ngợi và vượt xa những gì các công ty đối thủ đã hứa cho đến nay. Tuy nhiên, sẽ là quá khích nếu cho rằng rủi ro cá nhân không hề liên quan đến nó.

Mặc dù Apple đã nỗ lực hết sức để loại bỏ những rủi ro mà chúng ta đã biết, nhưng thực tế là chúng ta vẫn chưa biết đủ về những cạm bẫy của AI – và đặc biệt là LLM.

Nói về điều này, Apple đã thuê ngoài OpenAI để đáp ứng nhu cầu tạo ngôn ngữ của mình, điều mà những người hoài nghi cho rằng sẽ vô hiệu hóa sự đảm bảo của Apple về quyền riêng tư của người dùng. Elon Musk đã đặc biệt lên tiếng về viễn cảnh không thể đảm bảo an toàn tuyệt đối với khuôn khổ này.

LLM như ChatGPT đủ mới để các mối đe dọa phần lớn vẫn chưa được khám phá. Steve Wilson, giám đốc sản phẩm tại công ty phòng chống tấn công mạng hàng đầu, cho biết: “Tôi thực sự lo lắng rằng LLM là một con quái vật rất khác biệt và các kỹ sư bảo mật truyền thống vẫn chưa có kinh nghiệm với các kỹ thuật AI này”. Xuất ngoại.

Trong 24 tháng kể từ khi Generative AI hoàn toàn đi vào hoạt động, đã có rất nhiều trường hợp về các vấn đề kỹ thuật và bảo mật không lường trước được đưa ra ánh sáng. Apple có thành tích tuyệt vời về bảo mật người dùng, nhưng liệu việc dựa vào người khác có tạo ra vết nứt trên áo giáp không?

Hiện tại, các dấu hiệu chắc chắn là tích cực hơn là tiêu cực đối với Apple Intelligence, nhưng chỉ có thời gian trong tự nhiên mới chứng minh được trái cây đó đã chín hay bị nhiễm độc.

Khả Năng Tiếp Cận