Chúng ta thường tin rằng máy móc là khách quan. Chúng ta tin rằng vì AI hoạt động dựa trên toán học và dữ liệu, nên mọi quyết định của nó đều công bằng, không cảm tính và không định kiến như con người. Nhưng sự thật lại hoàn toàn ngược lại. AI không tự sinh ra từ hư không; nó học từ dữ liệu của chúng ta – một kho tàng chứa đựng cả những tinh hoa lẫn những định kiến xấu xí nhất của nhân loại. Khi "gương soi" bị bẩn, hình ảnh phản chiếu chắc chắn sẽ méo mó. Đó chính là nguồn cơn của Thiên kiến thuật toán . 1. Bản chất của sai lầm: AI không thông minh như bạn nghĩ AI hoạt động theo nguyên tắc "Garbage in, Garbage out" (Rác vào thì rác ra). Nếu dữ liệu dùng để huấn luyện AI chứa đựng những định kiến về giới tính, sắc tộc hoặc giai cấp, AI sẽ tiếp nhận những định kiến đó như một chân lý. Nó không biết thế nào là "đúng" hay "sai" về mặt đạo đức; nó chỉ đơn giản là tìm kiếm các quy luật trong quá khứ và lặp lại chúng ở tương lai. Nếu quá khứ của chúng...