Nhà phát triển Hệ thống trí tuệ nhân tạo là ai?

Trong kỷ nguyên số, trí tuệ nhân tạo (AI) không còn là khái niệm xa lạ. Tuy nhiên, đứng sau những hệ thống thông minh như ChatGPT, Gemini, Claude,… xe tự lái hay các thuật toán gợi ý của Facebook, YouTube chính là đội ngũ nhà phát triển Hệ thống trí tuệ nhân tạo. Vậy nhà phát triển Hệ thống trí tuệ nhân tạo là ai? Vai trò và trách nhiệm cần lưu ý. Hãy cùng Luật Trí Minh tìm hiểu chi tiết qua bài viết dưới đây.

1. Nhà phát triển Hệ thống trí tuệ nhân tạo là ai?

Căn cứ theo khoản 3 Điều 3 Luật Trí tuệ nhân tạo 2025 quy định như sau:

“Trong Luật này, các từ ngữ dưới đây được hiểu như sau:

• Trí tuệ nhân tạo là việc thực hiện bằng điện tử các năng lực trí tuệ của con người, bao gồm học tập, suy luận, nhận thức, phán đoán và hiểu ngôn ngữ tự nhiên.
• Hệ thống trí tuệ nhân tạo là hệ thống dựa trên máy, được thiết kế để thực hiện các năng lực trí tuệ nhân tạo với các mức độ tự chủ khác nhau, có khả năng tự thích nghi sau khi được triển khai; căn cứ vào các mục tiêu được xác định rõ ràng hoặc được hình thành một cách ngầm định, hệ thống suy luận từ dữ liệu đầu vào để tạo ra các đầu ra như dự đoán, nội dung, khuyến nghị hoặc quyết định có thể gây ảnh hưởng tới môi trường vật lý hoặc môi trường số.
• Nhà phát triển là tổ chức, cá nhân thực hiện việc thiết kế, xây dựng, huấn luyện, kiểm thử hoặc tinh chỉnh toàn bộ hoặc một phần mô hình, thuật toán hoặc hệ thống trí tuệ nhân tạo và có quyền kiểm soát trực tiếp đối với phương pháp kỹ thuật, dữ liệu huấn luyện hoặc tham số mô hình.

…”

Từ quy định nêu trên có thể hiểu rằng, Nhà phát triển Hệ thống trí tuệ nhân tạo (AI Developer) là cá nhân hoặc tổ chức trực tiếp tham gia vào quá trình thiết kế, xây dựng, huấn luyện, kiểm thử hoặc tinh chỉnh mô hình, thuật toán hay toàn bộ hệ thống AI. Đồng thời, chủ thể này cũng nắm quyền kiểm soát đối với các yếu tố cốt lõi như phương pháp kỹ thuật, dữ liệu huấn luyện và các tham số của mô hình trong quá trình phát triển hệ thống trí tuệ nhân tạo.

2. Nhà phát triển Hệ thống trí tuệ nhân tạo có trách nhiệm gì trong quản lý và xử lý sự cố AI?

Căn cứ theo Điều 12 Luật Trí tuệ nhân tạo 2025 quy định như sau:

“Trách nhiệm quản lý và xử lý sự cố trí tuệ nhân tạo

• Nhà phát triển, nhà cung cấp, bên triển khai và người sử dụng hệ thống trí tuệ nhân tạo có trách nhiệm bảo đảm an toàn, an ninh, độ tin cậy và kịp thời phát hiện, khắc phục sự cố có khả năng gây tổn hại đến con người, tài sản, dữ liệu hoặc trật tự xã hội.
• Khi hệ thống trí tuệ nhân tạo xảy ra sự cố nghiêm trọng, nhà phát triển, nhà cung cấp, bên triển khai, người sử dụng hệ thống trí tuệ nhân tạo có trách nhiệm sau đây:
  a) Nhà phát triển, nhà cung cấp phải khẩn trương áp dụng biện pháp kỹ thuật để khắc phục, tạm dừng hoặc thu hồi hệ thống, đồng thời thông báo cho cơ quan có thẩm quyền;
  b) Bên triển khai và người sử dụng có nghĩa vụ ghi nhận, thông báo kịp thời sự cố và phối hợp trong quá trình khắc phục.
• Cơ quan quản lý nhà nước có thẩm quyền tiếp nhận, xác minh và hướng dẫn xử lý sự cố; khi cần thiết, có quyền yêu cầu tạm dừng, thu hồi hoặc đánh giá lại hệ thống trí tuệ nhân tạo.
• Báo cáo và xử lý sự cố được thực hiện qua cổng thông tin điện tử một cửa về trí tuệ nhân tạo.
• Chính phủ quy định việc báo cáo và trách nhiệm của các cơ quan, tổ chức, cá nhân có liên quan phù hợp với mức độ nghiêm trọng của sự cố và phạm vi ảnh hưởng của hệ thống trí tuệ nhân tạo.”

Từ các quy định nêu trên có thể thấy, Nhà phát triển Hệ thống trí tuệ nhân tạo giữ vai trò quan trọng trong việc bảo đảm vận hành an toàn của hệ thống AI. Cụ thể, chủ thể này phải chủ động kiểm soát các yếu tố về an toàn, an ninh và độ tin cậy, đồng thời kịp thời phát hiện và xử lý các sự cố có nguy cơ gây ảnh hưởng đến con người, tài sản, dữ liệu hoặc trật tự xã hội.

Trong trường hợp xảy ra sự cố nghiêm trọng, Nhà phát triển Hệ thống trí tuệ nhân tạo có nghĩa vụ nhanh chóng áp dụng các biện pháp kỹ thuật cần thiết để khắc phục, tạm dừng hoặc thu hồi hệ thống, đồng thời thực hiện thông báo đến cơ quan có thẩm quyền theo quy định.

Lưu ý: Việc báo cáo và xử lý sự cố của Nhà phát triển Hệ thống trí tuệ nhân tạo được thực hiện thông qua cổng thông tin điện tử một cửa về trí tuệ nhân tạo.

3. Các hành vi bị nghiêm cấm về trí tuệ nhân tạo hiện nay bao gồm những gì?

Căn cứ theo Điều 7 Luật Trí tuệ nhân tạo 2025, các hành vi bị nghiêm cấm trong lĩnh vực trí tuệ nhân tạo bao gồm:

1. Nghiêm cấm việc lợi dụng hoặc chiếm quyền kiểm soát hệ thống trí tuệ nhân tạo nhằm thực hiện các hành vi vi phạm pháp luật, xâm phạm đến quyền và lợi ích hợp pháp của tổ chức, cá nhân.

2. Cấm phát triển, cung cấp, triển khai hoặc sử dụng hệ thống trí tuệ nhân tạo cho các mục đích sau:

• Thực hiện các hành vi trái quy định của pháp luật;
• Sử dụng công nghệ giả mạo hoặc mô phỏng con người, sự kiện có thật nhằm lừa dối, thao túng nhận thức và hành vi của con người một cách có chủ đích, có hệ thống, gây thiệt hại nghiêm trọng đến quyền và lợi ích hợp pháp;
• Lợi dụng những điểm yếu của các nhóm dễ bị tổn thương như trẻ em, người cao tuổi, người khuyết tật, người dân tộc thiểu số, người mất hoặc hạn chế năng lực hành vi dân sự, hoặc người gặp khó khăn trong nhận thức và làm chủ hành vi để gây tổn hại cho họ hoặc cho người khác;
• Tạo ra hoặc lan truyền các nội dung giả mạo có nguy cơ gây ảnh hưởng nghiêm trọng đến an ninh quốc gia, trật tự và an toàn xã hội.

3. Nghiêm cấm việc thu thập, xử lý hoặc sử dụng dữ liệu phục vụ cho việc phát triển, huấn luyện, kiểm thử hoặc vận hành hệ thống trí tuệ nhân tạo mà vi phạm các quy định pháp luật về dữ liệu, bảo vệ dữ liệu cá nhân, sở hữu trí tuệ và an ninh mạng.

4. Cấm các hành vi cản trở, vô hiệu hóa hoặc làm sai lệch các cơ chế giám sát, can thiệp và kiểm soát của con người đối với hệ thống trí tuệ nhân tạo theo quy định.

5. Nghiêm cấm việc che giấu các thông tin bắt buộc phải công khai, minh bạch hoặc giải trình; đồng thời không được tẩy xóa, chỉnh sửa sai lệch các thông tin, nhãn hoặc cảnh báo bắt buộc trong hoạt động liên quan đến trí tuệ nhân tạo.

6. Cấm lợi dụng các hoạt động nghiên cứu, thử nghiệm, đánh giá hoặc kiểm định hệ thống trí tuệ nhân tạo để thực hiện các hành vi vi phạm quy định của pháp luật.

4. Doanh nghiệp cần lưu ý gì khi phát triển và sử dụng Hệ thống trí tuệ nhân tạo?

Trong bối cảnh trí tuệ nhân tạo ngày càng được ứng dụng rộng rãi, doanh nghiệp khi phát triển hoặc triển khai Hệ thống trí tuệ nhân tạo cần đặc biệt lưu ý đến các yếu tố pháp lý và quản trị rủi ro nhằm bảo đảm tuân thủ quy định pháp luật và vận hành hiệu quả. Cụ thể:

• Bảo đảm an toàn, an ninh và độ tin cậy của hệ thống AI: Doanh nghiệp cần xây dựng cơ chế kiểm soát nhằm bảo đảm hệ thống hoạt động ổn định, hạn chế tối đa các rủi ro có thể gây ảnh hưởng đến con người, tài sản, dữ liệu và trật tự xã hội.
• Thiết lập quy trình quản lý và xử lý sự cố AI: Cần có phương án giám sát, phát hiện sớm và kịp thời xử lý các sự cố phát sinh. Trong trường hợp xảy ra sự cố nghiêm trọng, doanh nghiệp phải nhanh chóng áp dụng biện pháp kỹ thuật để khắc phục, tạm dừng hoặc thu hồi hệ thống, đồng thời thực hiện nghĩa vụ thông báo theo quy định.
• Tuân thủ quy định về dữ liệu và bảo vệ dữ liệu cá nhân: Việc thu thập, xử lý và sử dụng dữ liệu phục vụ phát triển AI phải tuân thủ đầy đủ các quy định pháp luật liên quan, đặc biệt là về bảo vệ dữ liệu cá nhân, sở hữu trí tuệ và an ninh mạng.
• Không thực hiện các hành vi bị nghiêm cấm trong lĩnh vực AI: Doanh nghiệp cần rà soát và kiểm soát chặt chẽ mục đích sử dụng hệ thống AI, tránh các hành vi như tạo nội dung giả mạo gây hiểu nhầm, thao túng hành vi người dùng hoặc lợi dụng các nhóm đối tượng dễ bị tổn thương.
• Thứ năm, bảo đảm tính minh bạch và khả năng giải trình của hệ thống AI: Doanh nghiệp cần công khai các thông tin cần thiết, đồng thời duy trì khả năng giải trình về cách thức hoạt động của hệ thống khi có yêu cầu từ cơ quan có thẩm quyền.
• Tăng cường cơ chế giám sát và kiểm soát của con người: Hệ thống trí tuệ nhân tạo cần được đặt dưới sự giám sát phù hợp của con người, tránh tình trạng hoạt động hoàn toàn tự động mà không có sự kiểm soát, gây ra rủi ro ngoài ý muốn.

Trên đây là những chia sẻ về thắc mắc “Nhà phát triển Hệ thống trí tuệ nhân tạo là ai?” cũng như các quy định pháp lý liên quan sẽ giúp doanh nghiệp chủ động hơn trong quá trình ứng dụng và phát triển AI một cách an toàn, hiệu quả. Trong trường hợp cần trao đổi chi tiết hoặc có nhu cầu sử dụng dịch vụ tại Luật Trí Minh, vui lòng liên hệ qua Email: contact@luattriminh.vn hoặc số Hotline: 024 3766 9599 (Hà Nội) và 028 3933 3323 (TP.HCM) để được đội ngũ luật sư hỗ trợ nhanh chóng và hiệu quả.