Nhân viên tại các công ty công nghệ khác nhau lo lắng về các loại dự án khác nhau, nhưng họ có một điểm chung: mối quan tâm chung về hợp đồng chính phủ và nguy cơ các quan chức chính phủ có thể sử dụng công nghệ của họ để vi phạm các quyền cơ bản của con người. Trong trường hợp xấu nhất, họ thường trích dẫn ví dụ về hợp đồng của IBM với Đức Quốc xã, trong đó công ty công nghệ Mỹ đã phát triển một hệ thống giúp Đức Quốc xã phân loại, tổ chức và giết người Do Thái.

Một công nghệ mà công nhân quan tâm là phần mềm nhận dạng khuôn mặt. Một nhóm 450 nhân viên của Amazon đã ký một bức thư yêu cầu CEO Jeff Bezos ngừng bán phần mềm nhận dạng khuôn mặt của mình, Rekognition, cho các cơ quan thực thi pháp luật, theo một nhân viên của Amazon, người đã công bố một ý kiến ẩn danh hôm thứ ba trên Medium (nền tảng xuất bản đã xác minh tác giả việc làm tại Amazon).

Theo nhân viên của Amazon, các nghiên cứu cho thấy phần mềm nhận dạng khuôn mặt thường xác định nhầm những người có làn da tối màu. Nhân viên này đã trích dẫn một thử nghiệm gần đây về phần mềm Rekognition của Amazon bởi Liên minh Tự do Dân sự Hoa Kỳ, nơi đã chạy những bức ảnh của mọi thành viên Quốc hội chống lại một bộ sưu tập cốc. Có 28 kết quả sai và kết quả không chính xác cao hơn đối với người da màu. Nhưng cảnh sát ở Orlando đang thử nghiệm chương trình của Amazon trên các camera giám sát thành phố và các phó cảnh sát trưởng ở Oregon được cho là đang sử dụng nó trong lĩnh vực này.

Từ lịch sử chúng ta biết rằng các công cụ giám sát mới và mạnh mẽ không được kiểm soát trong tay nhà nước đã được sử dụng để nhắm mục tiêu vào những người không làm gì sai; ở Hoa Kỳ, việc thiếu trách nhiệm công khai đã dẫn đến các tác động quá mức và chính sách quá mức của các cộng đồng da màu, người nhập cư và người dân thực hiện quyền Sửa đổi Đầu tiên của họ. Bỏ qua những mối quan tâm cấp bách này trong khi triển khai các công nghệ mạnh mẽ cho chính phủ và các cơ quan thực thi pháp luật là nguy hiểm và vô trách nhiệm.

Nhân viên nặc danh Amazon và một nhóm đồng nghiệp đã phác thảo những mối quan tâm này trong bức thư họ gửi cho Bezos suốt mùa hè , hiện đã được 450 nhân viên ký. Trong thư, họ cũng yêu cầu Amazon Web Services ngừng lưu trữ công ty phần mềm Palantir, giúp cơ quan di trú theo dõi và trục xuất người nhập cư. Họ cũng yêu cầu CEO cho phép nhân viên tham gia vào các quyết định của công ty đưa ra các câu hỏi đạo đức.

Nhân viên của Google đã có tác động lớn nhất đến việc ra quyết định của công ty

Hàng ngàn nhân viên công nghệ tại Google đã đặt câu hỏi rằng liệu công ty có mất đi la bàn đạo đức của mình trong việc theo đuổi công ty để làm giàu cho các cổ đông hay không.

Vào tháng Tư, hơn 3.000 nhân viên của Google đã phản đối hợp đồng quân sự của công ty với Lầu năm góc - được gọi là dự án Maven - liên quan đến công nghệ để phân tích các cảnh quay video bằng máy bay không người lái có khả năng xác định và tiêu diệt mục tiêu của con người.

Khoảng một tá kỹ sư đã từ chức vì những gì họ coi là sử dụng trí tuệ nhân tạo phi đạo đức, khiến Google phải để hợp đồng hết hạn vào tháng 6 và các giám đốc điều hành hàng đầu hứa rằng họ sẽ không bao giờ sử dụng công nghệ AI để làm hại người khác hoặc gây đau khổ cho con người.

Vài tháng sau, một cuộc điều tra của Intercept đã tiết lộ rằng Google đang bí mật làm việc cho một dự án đáng ngờ khác: một nhóm kỹ sư đang phát triển một công cụ tìm kiếm bị kiểm duyệt cho các quan chức Trung Quốc ở Bắc Kinh.

Theo một cuộc điều tra được công bố vào tháng 8 bởi công cụ tìm kiếm được phát triển, được gọi là Dragonfly, được thiết kế để che giấu các kết quả tìm kiếm mà chính phủ độc tài của Trung Quốc muốn đàn áp, như thông tin về dân chủ, tự do ngôn luận, phản kháng hòa bình và nhân quyền Đánh chặn.

Sau khi tin tức về Dragonfly bị rò rỉ vào tháng 8, hơn 1.400 nhân viên của Google đã ký một bức thư yêu cầu minh bạch và trách nhiệm hơn về tác động tiềm năng của dự án đối v