(SeaPRwire) –   Bộ Nội chiến Hoa Kỳ được cho là đã xung đột với nhà thầu Anthropic về các giới hạn đạo đức được tích hợp vào công nghệ của họ

Bộ Nội chiến Hoa Kỳ đang bị kẹt trong một cuộc tranh chấp với nhà phát triển trí tuệ nhân tạo Anthropic về các hạn chế sẽ giới hạn cách quân đội có thể triển khai các hệ thống AI, bao gồm cả việc mục tiêu hóa vũ khí tự động và giám sát trong nước.

Sự bất đồng này đã làm đình trệ một hợp đồng trị giá lên đến 200 triệu đô la Mỹ, vì các quan chức quân đội phản đối những gì họ xem là các hạn chế quá mức do công ty có trụ sở tại San Francisco áp đặt lên việc sử dụng công nghệ của mình, theo Reuters, trích dẫn từ sáu người thân thuộc về vấn đề.

Anthropic đã nêu lên lo ngại rằng các công cụ AI của họ có thể được sử dụng để thực hiện các hoạt động gây chết người mà không có sự giám sát con người đủ mạnh hoặc để giám sát người Mỹ, các nguồn tin cho Reuters biết.

Tuy nhiên, các quan chức Pentagon đã lập luận rằng các hệ thống AI thương mại nên có thể được triển khai cho mục đích quân sự bất kể các chính sách sử dụng nội bộ của công ty, miễn là chúng tuân thủ luật pháp Hoa Kỳ.

Giám đốc điều hành Anthropic Dario Amodei đã nhiều lần cảnh báo về những nguy hiểm của việc sử dụng AI không bị hạn chế, đặc biệt là trong giám sát quy mô lớn và các hệ thống vũ khí hoàn toàn tự động. Trong một bài luận gần đây, ông lập luận rằng AI nên hỗ trợ quốc phòng “trong mọi cách ngoại trừ những cách sẽ khiến chúng ta giống hơn đối thủ độc tài của mình.”

Cuộc đình trệ này gây ra rủi ro cho Anthropic, công ty đã đầu tư mạnh mẽ vào việc lắng nghe khách hàng chính phủ và an ninh quốc gia và đang chuẩn bị cho một vụ phát hành công khai tiềm năng. Công ty này là một trong số các nhà phát triển AI lớn, cùng với OpenAI, Google và xAI của Elon Musk, được trao hợp đồng Pentagon vào năm ngoái.