2 The Coming Wave - Technology, Po - Mustafa Suleyman Michael Bhaska

Machine Translated by Google
tạo ra một số bước đột phá lớn của chúng tôi bằng nguồn mở, giống như một
phòng thí nghiệm học thuật. Cốt lõi IP cho hoạt động kinh doanh tìm kiếm
của Google sẽ vẫn thuộc về Google nhưng phần còn lại sẽ có sẵn để chúng tôi
thúc đẩy sứ mệnh xã hội của DeepMind, nghiên cứu các loại thuốc mới, chăm
sóc sức khỏe tốt hơn, biến đổi khí hậu, v.v. Điều đó có nghĩa là các nhà
đầu tư có thể được khen thưởng nhưng cũng đảm bảo rằng mục đích xã hội
nằm trong DNA pháp lý của công ty.
Nhìn lại thì điều đó là quá sức đối với Google vào thời điểm đó. Các
luật sư vẫn được giữ lại, nhiều năm đàm phán căng thẳng đã diễn ra nhưng
dường như không có cách nào giải quyết được vòng tròn. Cuối cùng chúng
tôi không thể tìm được câu trả lời làm hài lòng tất cả mọi người. DeepMind
tiếp tục là một đơn vị bình thường trong Google mà không có sự độc lập về
mặt pháp lý chính thức, hoạt động như một thương hiệu riêng biệt. Đó là
một bài học nền tảng đối với tôi: chủ nghĩa tư bản cổ đông hoạt động vì nó
đơn giản và rõ ràng, và các mô hình quản trị cũng có xu hướng mặc định ở
mức đơn giản và rõ ràng. Trong mô hình cổ đông, trách nhiệm giải trình và
theo dõi hiệu suất được định lượng và rất minh bạch. Về mặt lý thuyết, có
thể thiết kế các cấu trúc hiện đại hơn, nhưng vận hành chúng trên thực tế
lại là một câu chuyện khác.
Trong thời gian làm việc tại Google, tôi tiếp tục thực hiện các nỗ lực
thử nghiệm nhằm tạo ra các cơ cấu quản trị đổi mới. Tôi đã soạn thảo Nguyên
tắc AI của Google và là thành viên của nhóm thành lập hội đồng cố vấn đạo
đức AI, bao gồm các chuyên gia pháp lý, công nghệ và đạo đức độc lập nổi
tiếng. Mục tiêu của cả hai là thực hiện những bước đầu tiên hướng tới việc
thiết lập điều lệ về cách Google xử lý các công nghệ tiên tiến như AI và
điện toán lượng tử. Tham vọng của chúng tôi là mời một nhóm đa dạng các bên
liên quan bên ngoài có được đặc quyền tiếp cận giới hạn kỹ thuật, đưa ra
phản hồi và cung cấp những quan điểm bên ngoài rất cần thiết cho những
người không còn hào hứng và lạc quan khi xây dựng các công nghệ mới.
Tuy nhiên, hội đồng đã tan rã vài ngày sau khi nó được công bố.
Một số nhân viên tại Google phản đối việc bổ nhiệm Kay Coles James, chủ tịch
Quỹ Di sản, một
Viện nghiên cứu bảo thủ có trụ sở tại Washington. Cô đã được bổ nhiệm cùng với một
loạt nhân vật từ cánh tả và trung dung, nhưng một chiến dịch đã nhanh chóng được
phát động trong nội bộ Google để loại bỏ cô.
Thành lập một liên minh với các nhân viên Twitter, các nhà hoạt động chỉ ra rằng cô
ấy đã đưa ra một số nhận xét chống người chuyển giới và chống LGBTQ trong nhiều
năm, bao gồm cả lập luận gần đây nhất, “Nếu họ có thể thay đổi định nghĩa về phụ nữ
để bao gồm cả nam giới, họ có thể xóa bỏ những nỗ lực trao quyền cho phụ nữ về mặt
kinh tế, xã hội và chính trị.” Mặc dù cá nhân tôi không đồng ý với những nhận xét và
quan điểm chính trị của cô ấy, nhưng tôi bảo vệ lựa chọn mời cô ấy tham gia hội đồng
quản trị, lập luận rằng toàn bộ các giá trị và quan điểm đều xứng đáng được lắng
nghe. Xét cho cùng, Google là một công ty toàn cầu với người dùng toàn cầu, một số
người trong số họ có thể chia sẻ quan điểm này.
Nhiều nhân viên của Google và các nhà hoạt động bên ngoài không đồng ý và trong
vòng vài ngày sau thông báo đã công bố một bức thư ngỏ yêu cầu loại James khỏi hội
đồng. Các nhân viên và những người khác đang tích cực vận động các trường đại học
để loại bỏ nguồn tài trợ học thuật từ các thành viên hội đồng khác, những người từ
chối từ chức, cho rằng sự tham gia liên tục của họ chỉ có thể được hiểu là dung túng
cho chứng sợ chuyển giới. Cuối cùng, ba thành viên đã từ chức và nỗ lực này bị hủy
bỏ hoàn toàn sau chưa đầy một tuần. Thật không may, bầu không khí chính trị lại quá
nặng nề đối với cả những nhân vật của công chúng và một công ty đại chúng.
Một lần nữa, những nỗ lực của tôi để suy nghĩ lại về nhiệm vụ của công ty đã
thất bại, ngay cả khi chúng thúc đẩy cuộc trò chuyện và giúp đưa ra một số cuộc thảo
luận khó khăn, cả ở Alphabet và trong giới chính sách, học thuật và ngành rộng hơn.
Những nhóm nào và nghiên cứu nào được tài trợ, sản phẩm được thử nghiệm như thế
nào, những biện pháp kiểm soát và đánh giá nội bộ nào được áp dụng, mức độ xem xét
kỹ lưỡng bên ngoài là phù hợp, những bên liên quan nào cần được đưa vào—các nhà
lãnh đạo cấp cao tại Alphabet và những nơi khác bắt đầu có những cuộc trò chuyện này
một cách thường xuyên .
Trên khắp các công ty công nghệ, các cuộc thảo luận về an toàn AI vốn từng có vẻ
xa vời cách đây một thập kỷ giờ đây đã trở thành thông lệ. Sự cần thiết phải cân bằng
lợi nhuận với sự đóng góp tích cực và sự an toàn tiên tiến được chấp nhận về
nguyên tắc bởi tất cả các tập đoàn công nghệ lớn của Hoa Kỳ. Bất chấp quy mô
tuyệt vời của các phần thưởng được cung cấp, các doanh nhân, giám đốc điều
hành và nhân viên cũng nên tiếp tục thúc đẩy và khám phá các hình thức công ty
có thể đáp ứng tốt hơn thách thức ngăn chặn.
Các thí nghiệm khuyến khích đang được tiến hành. Facebook đã thành lập Ban
giám sát độc lập—với các cựu thẩm phán, nhà vận động và học giả chuyên môn để
tư vấn về việc quản lý nền tảng. Nó đã nhận phải sự chỉ trích từ mọi phía và
rõ ràng không chỉ “giải quyết” được vấn đề một mình. Nhưng điều quan trọng
là phải bắt đầu bằng cách khen ngợi nỗ lực và khuyến khích Facebook cũng như
những người khác tiếp tục thử nghiệm. Một ví dụ khác là phong trào ngày càng
tăng của các tập đoàn công ích và Quân đoàn B, vẫn là những công ty vì lợi
nhuận nhưng có sứ mệnh xã hội được ghi trong các mục tiêu được xác định hợp
pháp của họ. Các công ty công nghệ có cơ chế ngăn chặn mạnh mẽ và có mục tiêu
được ghi rõ là nghĩa vụ ủy thác là bước tiếp theo. Có nhiều khả năng sẽ có
sự thay đổi tích cực ở đây, dựa trên sự phát triển của các cấu trúc công ty
thay thế này (hơn mười nghìn công ty hiện đang sử dụng cấu trúc B Corp). Mặc
dù các mục tiêu kinh tế không phải lúc nào cũng phù hợp với công nghệ chứa
đựng, nhưng các hình thức doanh nghiệp đổi mới khiến điều đó có nhiều khả
năng xảy ra hơn. Đây là loại thử nghiệm cần thiết.
Ngăn chặn cần một thế hệ tập đoàn mới. Nó cần những người sáng lập và
những người làm việc trong lĩnh vực công nghệ để đóng góp tích cực cho xã hội.
Nó cũng cần một cái gì đó khó khăn hơn. Nó cần chính trị.
6. CHÍNH PHỦ: Tồn tại, cải cách, điều
tiết
Các vấn đề công nghệ đòi hỏi các giải pháp công nghệ, như chúng ta đã thấy,
nhưng chỉ riêng chúng thì không bao giờ là đủ. Chúng ta cũng cần nhà nước để
phát triển. Mọi nỗ lực nhằm củng cố các quốc gia dân chủ tự do và củng cố
chúng trước những tác nhân gây căng thẳng phải được ủng hộ. Các quốc gia dân tộc vẫn
kiểm soát nhiều yếu tố cơ bản của nền văn minh: luật pháp, cung tiền,
thuế, quân đội, v.v. Điều đó giúp ích cho nhiệm vụ phía trước, nơi họ sẽ
cần tạo ra và duy trì các hệ thống xã hội kiên cường, mạng lưới phúc
lợi, kiến trúc an ninh và cơ chế quản trị có khả năng tồn tại trước
những căng thẳng nghiêm trọng. Nhưng họ cũng cần biết chi tiết điều gì
đang xảy ra: hiện tại họ đang hoạt động mù quáng trong một cơn bão.
Nhà vật lý Richard Feynman có câu nói nổi tiếng: “Những gì tôi không
thể tạo ra thì tôi không hiểu”. Ngày nay điều này không thể đúng hơn với
chính phủ và công nghệ. Tôi nghĩ chính phủ cần tham gia nhiều hơn nữa
vào việc xây dựng công nghệ thực sự, đặt ra các tiêu chuẩn và nuôi dưỡng
năng lực nội bộ. Nó cần phải cạnh tranh về nhân tài và phần cứng trên thị
trường mở. Không có hai cách để giải quyết vấn đề này: việc này tốn kém
và sẽ gây ra những sai lầm lãng phí. Nhưng các chính phủ chủ động sẽ có
quyền kiểm soát lớn hơn nhiều so với việc họ chỉ vận hành các dịch vụ và
sống dựa vào chuyên môn thuê ngoài cũng như công nghệ được sở hữu và
vận hành ở nơi khác.
Trách nhiệm được thực hiện bằng sự hiểu biết sâu sắc. Quyền sở hữu
mang lại quyền kiểm soát. Cả hai đều yêu cầu chính phủ phải nhúng tay vào.
Mặc dù ngày nay các công ty đã dẫn đầu nhưng phần lớn các nghiên cứu cơ
bản mang tính suy đoán nhất vẫn được chính phủ tài trợ.
Chi tiêu của chính phủ liên bang Hoa Kỳ cho R&D chiếm tỷ trọng thấp nhất
mọi thời đại trong tổng chi tiêu - chỉ 20% - nhưng vẫn lên tới con số
không đáng kể là 179 tỷ USD mỗi năm.
Đây là tin tốt. Đầu tư vào giáo dục và nghiên cứu khoa học và công
nghệ cũng như hỗ trợ các doanh nghiệp công nghệ trong nước tạo ra một
vòng phản hồi tích cực trong đó các chính phủ có quyền lợi trực tiếp vào
công nghệ tiên tiến, sẵn sàng tận dụng lợi ích và giảm thiểu tác hại.
Nói một cách đơn giản, với tư cách là một đối tác bình đẳng trong việc
tạo ra làn sóng sắp tới, các chính phủ có cơ hội tốt hơn để hướng làn
sóng đó hướng tới lợi ích chung của công chúng. Có nhiều kiến thức
chuyên môn kỹ thuật nội bộ hơn, thậm chí với chi phí đáng kể, là cách chi tiêu xứng đá
Chính phủ không nên dựa vào các nhà tư vấn quản lý,
nhà thầu hoặc nhà cung cấp bên thứ ba khác. Những nhân viên làm việc toàn thời gian,
được kính trọng và được trả lương xứng đáng, có khả năng cạnh tranh với khu vực tư
nhân, phải là một phần cốt lõi của giải pháp. Thay vào đó, lương của khu vực tư nhân
có thể cao gấp 10 lần mức lương tương đương của khu vực công khi họ nắm giữ những
vai trò quan trọng quốc gia: điều này không bền vững.
Nhiệm vụ đầu tiên của họ là giám sát và hiểu rõ hơn sự phát triển của công nghệ.
Các quốc gia cần hiểu một cách chi tiết, chẳng hạn như dữ liệu nào được người dân
của họ cung cấp, dữ liệu đó được sử dụng như thế nào và ở đâu cũng như ý nghĩa của
chúng; các chính quyền nên có hiểu biết sâu sắc về nghiên cứu mới nhất, biên giới ở
đâu, nó sẽ đi đến đâu, đất nước của họ có thể tối đa hóa những lợi ích như thế nào.
Trên hết, họ cần ghi lại tất cả những cách công nghệ gây hại—lập bảng mọi rò rỉ trong
phòng thí nghiệm, mọi cuộc tấn công mạng, mọi thành kiến về mô hình ngôn ngữ, mọi vi
phạm quyền riêng tư—theo cách minh bạch công khai để mọi người có thể học hỏi từ
những thất bại và cải thiện.
Thông tin này sau đó cần được nhà nước sử dụng một cách hiệu quả, đáp ứng kịp
thời các vấn đề mới nổi. Các cơ quan gần quyền hành pháp, như Văn phòng Chính sách
Khoa học và Công nghệ của Nhà Trắng, đang ngày càng có ảnh hưởng lớn hơn. Vẫn cần
nhiều hơn nữa: trong thế kỷ 21, sẽ không có ý nghĩa gì nếu có các vị trí nội các giải
quyết các vấn đề như kinh tế, giáo dục, an ninh và quốc phòng mà không có vị trí được
trao quyền và chịu trách nhiệm dân chủ tương tự về công nghệ. Thư ký hoặc bộ trưởng
phụ trách công nghệ mới nổi vẫn là một điều hiếm thấy trong chính phủ. Nó không nên
như vậy; mỗi quốc gia nên có một cái trong thời đại làn sóng sắp tới.
Chỉ riêng quy định không giúp chúng ta ngăn chặn được, nhưng bất kỳ cuộc thảo
luận nào không liên quan đến quy định đều sẽ thất bại. Quy định nên tập trung vào
những khuyến khích đó, điều chỉnh tốt hơn các cá nhân, tiểu bang, công ty và công
chúng nói chung về sự an toàn và an ninh trong khi xây dựng khả năng phanh cứng. Một
số trường hợp sử dụng nhất định, như AI cho hoạt động bầu cử, sẽ bị pháp luật cấm
như một phần của gói.

Các cơ quan lập pháp đang bắt đầu hành động. Năm 2015 hầu như không
có luật nào về AI. Nhưng không dưới 72 dự luật có cụm từ “trí tuệ nhân
tạo” đã được thông qua trên toàn thế giới kể từ năm 2019. Cơ quan quan
sát chính sách AI của OECD đếm không dưới 800 chính sách AI từ 60 quốc
gia trong cơ sở dữ liệu của mình. Chắc chắn là Đạo luật AI của EU có nhiều
vấn đề, nhưng có nhiều điều đáng khen ngợi trong các điều khoản của nó và
nó thể hiện sự tập trung và tham vọng đúng đắn.
Vào năm 2022, Nhà Trắng đã công bố kế hoạch chi tiết cho Tuyên ngôn về
Quyền của AI với năm nguyên tắc cốt lõi “giúp hướng dẫn thiết kế, phát
triển và triển khai trí tuệ nhân tạo cũng như các hệ thống tự động khác
để bảo vệ quyền của công chúng Mỹ”. Nó nói rằng công dân nên được bảo vệ
khỏi các hệ thống không an toàn và kém hiệu quả cũng như sự thiên vị về
thuật toán. Không ai bị buộc phải tuân theo AI. Mọi người đều có quyền
nói không. Những nỗ lực như thế này cần được ủng hộ rộng rãi và nhanh
chóng thực hiện.
Tuy nhiên, trí tưởng tượng của các nhà hoạch định chính sách sẽ cần
phải phù hợp với phạm vi công nghệ. Chính phủ cần phải đi xa hơn. Vì những
lý do dễ hiểu, chúng tôi không cho phép bất kỳ doanh nghiệp nào xây dựng
hoặc vận hành lò phản ứng hạt nhân theo bất kỳ cách nào họ thấy phù hợp.
Trên thực tế, nhà nước tham gia mật thiết vào—và theo dõi chặt chẽ, cấp
phép và quản lý—mọi khía cạnh tồn tại của họ. Theo thời gian, điều này sẽ
và sẽ trở nên đúng hơn với công nghệ nói chung. Ngày nay ai cũng có thể
xây dựng AI. Bất cứ ai cũng có thể thành lập một phòng thí nghiệm. Thay
vào đó chúng ta nên chuyển sang một môi trường được cấp phép hơn. Điều
này sẽ tạo ra một loạt trách nhiệm rõ ràng hơn và các cơ chế cứng rắn hơn
để thu hồi quyền truy cập và khắc phục các tác hại xung quanh các công
nghệ tiên tiến. Các hệ thống AI hoặc bộ tổng hợp hoặc máy tính lượng tử
phức tạp nhất chỉ nên được sản xuất bởi các nhà phát triển được chứng
nhận có trách nhiệm. Là một phần trong giấy phép của họ, họ sẽ cần phải
đăng ký các tiêu chuẩn an ninh và an toàn rõ ràng, ràng buộc, tuân theo
các quy tắc, thực hiện đánh giá rủi ro, lưu giữ hồ sơ, giám sát chặt chẽ việc triển kha
Giống như bạn không thể đơn giản phóng tên lửa vào vũ trụ mà không có FAA
phê duyệt, vì vậy ngày mai bạn không thể đơn giản tung ra một AI hiện đại được.
Các chế độ cấp phép khác nhau có thể được áp dụng tùy theo quy mô hoặc khả
năng của mô hình: mô hình càng lớn và có nhiều khả năng thì yêu cầu cấp phép
càng nghiêm ngặt. Mô hình càng tổng quát thì càng có nhiều khả năng gây ra mối
đe dọa nghiêm trọng. Điều này có nghĩa là các phòng thí nghiệm AI đang nghiên
cứu những khả năng cơ bản nhất sẽ cần được chú ý đặc biệt. Hơn nữa, điều này
tạo ra phạm vi cho việc cấp phép chi tiết hơn nếu cần tập trung vào các chi
tiết cụ thể của quá trình phát triển: đào tạo các đợt chạy mô hình, cụm chip
trên một kích thước nhất định, một số loại sinh vật nhất định.
Thuế cũng cần phải được cải tổ hoàn toàn để đảm bảo an ninh và phúc lợi
khi chúng ta trải qua quá trình chuyển đổi lớn nhất trong quá trình tạo ra giá
trị—từ lao động sang vốn—trong lịch sử. Nếu công nghệ tạo ra kẻ thua cuộc, họ
cần được đền bù vật chất. Ngày nay lao động Mỹ bị đánh thuế ở mức trung bình
25%, thiết bị và phần mềm chỉ ở mức 5%. Hệ thống này được thiết kế để cho phép
vốn tự tái sản xuất một cách dễ dàng dưới danh nghĩa tạo ra các doanh nghiệp
phát đạt. Trong tương lai, hệ thống thuế cần chuyển trọng tâm sang vốn, không
chỉ tài trợ cho việc tái phân phối cho những người bị ảnh hưởng bất lợi mà
còn tạo ra quá trình chuyển đổi chậm hơn và công bằng hơn. Chính sách tài khóa
là một van quan trọng trong việc kiểm soát quá trình chuyển đổi này, một phương
tiện để thực hiện kiểm soát các điểm nghẽn đó đồng thời xây dựng khả năng phục
hồi của nhà nước.
Điều này sẽ bao gồm mức thuế cao hơn đối với các hình thức vốn cũ như đất
đai, tài sản, cổ phiếu công ty và các tài sản có giá trị cao, ít tính thanh
khoản khác, cũng như thuế mới đối với các hệ thống tự động hóa và tự trị. Điều
này đôi khi được gọi là “thuế đối với robot”; Các nhà kinh tế của MIT đã lập
luận rằng ngay cả mức thuế vừa phải chỉ từ 1 đến 4% giá trị của chúng cũng có
thể có tác động lớn. Một sự chuyển dịch được tính toán cẩn thận trong gánh
nặng thuế khỏi lao động sẽ khuyến khích việc tiếp tục tuyển dụng và giảm bớt
sự gián đoạn trong cuộc sống hộ gia đình. Các khoản tín dụng thuế dành cho
những người có thu nhập thấp nhất có thể là bước đệm ngay lập tức khi đối mặt
với tình trạng thu nhập trì trệ hoặc thậm chí sụt giảm. Đồng thời, một chương
trình đào tạo lại kỹ năng lớn và nỗ lực giáo dục sẽ chuẩn bị cho những người dễ bị tổn thươn
dân số, nâng cao nhận thức về rủi ro và tăng cơ hội tiếp cận với khả năng của
làn sóng. Thu nhập cơ bản phổ cập (UBI) - tức là thu nhập được nhà nước trả
cho mọi người dân bất kể hoàn cảnh - thường được coi là câu trả lời cho sự
gián đoạn kinh tế của làn sóng sắp tới. Trong tương lai, có thể sẽ có chỗ cho
những sáng kiến giống như UBI; tuy nhiên, trước khi đạt được điều đó, có rất
nhiều ý tưởng hay.
Trong thời đại AI của công ty có quy mô siêu quy mô, chúng ta nên bắt đầu
nghĩ đến việc áp dụng các loại thuế vốn như thế này đối với chính các tập
đoàn lớn nhất, chứ không chỉ đối với tài sản hoặc lợi nhuận được đề cập. Hơn
nữa, phải tìm ra các cơ chế để đánh thuế xuyên biên giới đối với những doanh
nghiệp khổng lồ đó, đảm bảo họ đóng góp công bằng trong việc duy trì các xã
hội đang vận hành. Ở đây khuyến khích các thử nghiệm: một phần cố định của giá
trị công ty, chẳng hạn, được trả dưới dạng cổ tức công sẽ giữ giá trị được
chuyển trở lại dân chúng trong thời đại tập trung cao độ. Ở mức giới hạn, câu
hỏi cốt lõi là ai sở hữu vốn của làn sóng sắp tới; một AGI chính hãng không
thể thuộc sở hữu tư nhân giống như một tòa nhà hoặc một đội xe tải. Khi nói
đến công nghệ có thể kéo dài tuổi thọ hoặc khả năng của con người một cách
triệt để, rõ ràng ngay từ đầu đã có một cuộc tranh luận lớn về việc phân phối
nó.
Ai có thể thiết kế, phát triển và triển khai các công nghệ như thế này
cuối cùng là vấn đề do chính phủ quyết định. Đòn bẩy, thể chế và lĩnh vực
chuyên môn của họ đều sẽ phải phát triển nhanh chóng như công nghệ, một thách
thức mang tính thế hệ đối với tất cả những người tham gia. Do đó, thời đại
của công nghệ chứa đựng là thời đại của công nghệ được quản lý rộng rãi và
thông minh; không có nếu hoặc nhưng. Nhưng tất nhiên, quy định ở một quốc
gia có một thiếu sót không thể tránh khỏi. Không có chính phủ quốc gia nào có
thể làm điều này một mình.
7. LIÊN MINH: THỜI GIAN KÝ HIỆP ƯỚC

Vũ khí laser nghe như khoa học viễn tưởng. Thật không may, họ không như vậy.
Khi công nghệ laser phát triển, rõ ràng chúng có thể gây mù lòa. Được vũ khí hóa,
điều này có thể vô hiệu hóa lực lượng đối phương hoặc thực sự là bất kỳ ai nhắm mục
tiêu. Một công nghệ dân sự mới thú vị một lần nữa mở ra viễn cảnh về các phương thức
tấn công khủng khiếp (mặc dù chưa đến thời điểm hiện tại theo kiểu Chiến tranh giữa
các vì sao). Không ai muốn quân đội hoặc băng đảng hoành hành khắp nơi với những tia
laze chói mắt.
May mắn thay, nó đã không xảy ra. Việc sử dụng vũ khí laser gây chói mắt đã bị
đặt ra ngoài vòng pháp luật theo Nghị định thư về vũ khí laser gây mù năm 1995, một
bản cập nhật của Công ước về một số loại vũ khí thông thường cấm sử dụng “vũ khí
laser được thiết kế đặc biệt, làm chức năng chiến đấu duy nhất hoặc là một trong
những chức năng chiến đấu của chúng, để gây mù vĩnh viễn cho thị lực không được cải
thiện.” Một trăm hai mươi sáu quốc gia đã đăng ký. Do đó, vũ khí laser không phải
là một phần chính của khí tài quân sự cũng như vũ khí thông thường trên đường phố.
Chắc chắn, tia laser gây chói mắt không phải là loại công nghệ đa dụng mà chúng
ta đang nói đến trong cuốn sách này. Nhưng chúng là bằng chứng cho thấy điều đó có
thể thực hiện được; một lệnh cấm mạnh mẽ có thể có tác dụng. Những liên minh và hợp
tác quốc tế tinh tế có thể được thực hiện và chúng có thể thay đổi lịch sử.
Hãy xem xét những ví dụ này, một số ví dụ mà chúng ta đã thảo luận trước đó:
Hiệp ước Không phổ biến vũ khí hạt nhân; Nghị định thư Montreal cấm CFC; việc phát
minh, thử nghiệm và triển khai vắc xin bại liệt xuyên suốt thời kỳ Chiến tranh Lạnh;
Công ước về vũ khí sinh học, một hiệp ước giải trừ vũ khí cấm vũ khí sinh học một
cách hiệu quả; cấm bom, mìn, chỉnh sửa gen của con người và các chính sách ưu sinh;
Thỏa thuận Paris, nhằm hạn chế lượng khí thải carbon và những tác động tồi tệ nhất
của biến đổi khí hậu; nỗ lực toàn cầu nhằm xóa bỏ bệnh đậu mùa; loại bỏ dần chì trong
xăng; và chấm dứt amiăng.
Các quốc gia không muốn từ bỏ quyền lực cũng như các công ty không muốn bỏ lỡ
lợi nhuận, tuy nhiên đây là những tiền lệ để rút kinh nghiệm, những mảnh hy vọng nhỏ
nhoi trong một bối cảnh đầy cạnh tranh công nghệ đang trỗi dậy. Mỗi bên đều có những
điều kiện và thách thức cụ thể mà cả hai

đã giúp nó xảy ra và cản trở sự tuân thủ hoàn hảo. Nhưng điều quan trọng là
mỗi quốc gia đều là một ví dụ quý giá về việc các quốc gia trên thế giới đoàn
kết và thỏa hiệp để đối mặt với một thách thức lớn, đưa ra những gợi ý và
khuôn khổ để giải quyết làn sóng sắp tới. Nếu một chính phủ muốn cấm các ứng
dụng sinh học tổng hợp hoặc AI, có được không? Không, rõ ràng không có gì
ngoài ý nghĩa phiến diện, mong manh. Nhưng một liên minh mạnh mẽ, có động cơ?
Có lẽ.
Đối mặt với vực thẳm, địa chính trị có thể thay đổi nhanh chóng. Trong
giai đoạn đầu của Thế chiến thứ hai, hòa bình chắc hẳn giống như một giấc mơ.
Khi quân Đồng minh tiếp tục chiến đấu mệt mỏi, ít người trên thực địa có thể
tưởng tượng rằng chỉ vài năm sau, chính phủ của họ sẽ bơm hàng tỷ USD để tái
thiết kẻ thù của họ. Rằng, bất chấp tội ác chiến tranh khủng khiếp và diệt
chủng, Đức và Nhật Bản sẽ sớm trở thành những phần quan trọng của một liên
minh ổn định trên toàn thế giới. Nhìn lại có vẻ chóng mặt. Chỉ một vài năm
ngắn ngủi đã tách biệt những viên đạn, sự cay đắng và những bãi biển của
Normandy và Iwo Jima khỏi mối quan hệ đối tác thương mại và quân sự vững
chắc, một tình bạn sâu sắc kéo dài cho đến ngày nay và chương trình viện trợ
nước ngoài lớn nhất từng được thực hiện.
Ở đỉnh điểm của Chiến tranh Lạnh, các cuộc tiếp xúc cấp cao vẫn được duy
trì bất chấp căng thẳng nghiêm trọng. Trong trường hợp có thứ gì đó như AGI
giả mạo hoặc mối nguy hiểm sinh học lớn được phát tán, kiểu phối hợp cấp cao
này sẽ rất quan trọng, tuy nhiên khi Chiến tranh Lạnh mới hình thành, sự chia
rẽ ngày càng gia tăng. Các mối đe dọa thảm khốc vốn có tính chất toàn cầu và
phải là vấn đề được quốc tế đồng thuận. Những quy định chỉ dừng lại ở biên
giới quốc gia rõ ràng là chưa đủ. Mặc dù mọi quốc gia đều có lợi ích trong
việc thúc đẩy các công nghệ này nhưng họ cũng có lý do chính đáng để hạn chế
những hậu quả tồi tệ nhất mà chúng gây ra. Vậy hiệp ước không phổ biến vũ khí
hạt nhân, Nghị định thư Montreal, Thỏa thuận Paris có ý nghĩa như thế nào
đối với làn sóng sắp tới?
Vũ khí hạt nhân là một ngoại lệ một phần nhưng không chỉ vì chúng rất khó
chế tạo: những giờ thảo luận kéo dài và kiên nhẫn, hàng thập kỷ đàm phán hiệp
ước gian khổ tại Liên hợp quốc, sự hợp tác quốc tế ngay cả trong những thời
điểm căng thẳng cực độ, tất cả
quan trọng khi nói đến việc giữ chúng trong tầm kiểm soát. Có cả yếu tố đạo
đức và chiến lược trong việc ngăn chặn hạt nhân. Việc đạt được và thực thi
các thỏa thuận như vậy chưa bao giờ dễ dàng, đặc biệt là trong thời đại
cạnh tranh giữa các cường quốc. Do đó, các nhà ngoại giao đóng vai trò bị
đánh giá thấp trong việc kiềm chế công nghệ. Một thời kỳ hoàng kim của
ngoại giao kỹ thuật cần phải xuất hiện sau thời kỳ chạy đua vũ trang. Nhiều
người tôi đã nói chuyện trong cộng đồng ngoại giao nhận thức sâu sắc về điều này.
Tuy nhiên, các liên minh cũng có thể hoạt động ở cấp độ các nhà công
nghệ hoặc các cơ quan địa phương, cùng nhau quyết định nên tài trợ cái gì,
tránh xa cái gì. Một ví dụ điển hình ở đây đến từ việc chỉnh sửa gen dòng
mầm. Một nghiên cứu ở 106 quốc gia cho thấy quy định chỉnh sửa gen dòng mầm
còn chắp vá. Hầu hết các quốc gia đều có một số loại quy định hoặc hướng
dẫn chính sách, nhưng vẫn có những khác biệt và khoảng trống đáng kể. Nó
không bổ sung vào khuôn khổ toàn cầu về một công nghệ có phạm vi toàn cầu.
Hiệu quả hơn cho đến nay là sự hợp tác quốc tế của các nhà khoa học ở tuyến
đầu. Sau cuộc chỉnh sửa gen đầu tiên ở con người, một lá thư được ký bởi
những người nổi tiếng như Eric Lander, Emmanuelle Charpentier và Feng Zhang
đã kêu gọi “một lệnh cấm toàn cầu đối với tất cả các ứng dụng lâm sàng trong
việc chỉnh sửa dòng mầm của con người—nghĩa là thay đổi DNA có thể di
truyền (trong tinh trùng, trứng hoặc phôi) để tạo ra trẻ em biến đổi gen”
và “một khuôn khổ quốc tế trong đó các quốc gia, trong khi vẫn có quyền đưa
ra quyết định của riêng mình, tự nguyện cam kết không chấp thuận bất kỳ việc
sử dụng chỉnh sửa dòng mầm lâm sàng nào trừ khi đáp ứng một số điều kiện
nhất định.”
Họ không kêu gọi một lệnh cấm vĩnh viễn, họ không cấm chỉnh sửa dòng mầm
cho mục đích nghiên cứu và họ không nói rằng mọi quốc gia nên đi theo con
đường giống nhau. Nhưng họ yêu cầu các học viên dành thời gian để hòa hợp
và đưa ra quyết định đúng đắn.
Đủ người ở vị trí dẫn đầu vẫn có thể tạo ra sự khác biệt, cho phép có chỗ
tạm dừng, giúp tạo không gian và nền tảng để các quốc gia và tổ chức quốc
tế cùng nhau tìm ra cách vượt qua.
Ở phần đầu chương tôi đã thảo luận về những xung đột giữa Hoa Kỳ và
Trung Quốc. Bất chấp sự khác biệt của họ, vẫn có những nơi hợp tác rõ ràng
giữa các cường quốc cạnh tranh này. Sinh học tổng hợp là điểm khởi đầu tốt
hơn AI ở đây, nhờ mức độ cạnh tranh hiện tại thấp hơn và sự tiêu diệt rõ
ràng các mối đe dọa sinh học mới được đảm bảo lẫn nhau. Dự án SecureDNA là
một ví dụ điển hình, đặt ra con đường quản lý sinh học tổng hợp tương tự
như cách hạn chế vũ khí hóa học. Ví dụ: nếu Trung Quốc và Hoa Kỳ có thể
tạo ra một cơ quan quan sát rủi ro sinh học chung, bao gồm mọi thứ từ R&D
tiên tiến đến các ứng dụng thương mại đã triển khai, thì đó sẽ là một lĩnh
vực hợp tác quý giá để phát triển.
Trung Quốc và Mỹ cũng có chung lợi ích trong việc kiềm chế những kẻ xấu.
Vì Aum Shinrikyo có thể đến từ bất cứ đâu, cả hai nước sẽ mong muốn kiềm
chế sự phổ biến không kiểm soát của những công nghệ mạnh mẽ nhất thế giới.
Hiện nay Trung Quốc và Mỹ đang trong cuộc đấu tranh để thiết lập các tiêu
chuẩn công nghệ. Nhưng cách tiếp cận chung rõ ràng là đôi bên cùng có lợi;
các tiêu chuẩn rời rạc khiến mọi việc trở nên khó khăn hơn đối với mọi
người. Một điểm chung khác có thể là việc duy trì các hệ thống mật mã
trước những tiến bộ trong điện toán lượng tử hoặc học máy có thể làm suy
yếu chúng. Mỗi bên có thể mở đường cho sự thỏa hiệp rộng rãi hơn. Khi thế
kỷ trôi qua, bài học về Chiến tranh Lạnh sẽ phải được học lại: không có con
đường nào dẫn đến an toàn công nghệ nếu không hợp tác với kẻ thù của bạn.
Ngoài việc khuyến khích các sáng kiến song phương, điều hiển nhiên ở
giai đoạn này là đề xuất thành lập một số loại thể chế toàn cầu mới dành
riêng cho công nghệ. Tôi đã nghe người ta nói rất nhiều lần: Ngân hàng Thế
giới về công nghệ sinh học hay Liên Hợp Quốc về AI trông như thế nào? Có thể một
hợp tác quốc tế an toàn có phải là cách tiếp cận một vấn đề khó khăn và
phức tạp như AGI? Ai là trọng tài cuối cùng, là người cho vay cuối cùng,
là cơ quan khi được hỏi “Ai chứa công nghệ?” có thể giơ tay lên được không?
Chúng ta cần hiệp ước hạt nhân tương đương với thế hệ của chúng ta để định
hình một cách tiếp cận chung trên toàn thế giới - trong trường hợp này không
phải là kiềm chế hoàn toàn sự phổ biến mà là đặt ra các giới hạn và xây dựng
các khuôn khổ để quản lý và giảm nhẹ, giống như làn sóng, xuyên biên giới. Điều
này sẽ đặt ra những giới hạn rõ ràng về những gì công việc được thực hiện, điều
hòa các nỗ lực cấp phép của các quốc gia và tạo ra một khuôn khổ để xem xét cả hai.
Trường hợp có phạm vi rõ ràng cho một hoặc nhiều cơ quan mới là có mối quan tâm về mặt
kỹ thuật. Cần phải có một cơ quan quản lý chuyên trách điều hướng các vấn đề địa chính trị
gây tranh cãi (càng nhiều càng tốt), tránh phản ứng thái quá và thực hiện chức năng giám sát
thực tế đối với các tiêu chí khách quan rộng rãi. Hãy nghĩ về một cái gì đó giống như Cơ quan
Năng lượng Nguyên tử Quốc tế hoặc thậm chí là một cơ quan thương mại như Hiệp hội Vận tải
Hàng không Quốc tế. Thay vì có một tổ chức trực tiếp quản lý, xây dựng hoặc kiểm soát công
nghệ, tôi sẽ bắt đầu với một thứ giống như Cơ quan kiểm toán AI—AAA. Tập trung vào quy mô mô
hình kiểm tra và tìm hiểu thực tế cũng như khi vượt qua các ngưỡng năng lực, AAA sẽ tăng
cường tính minh bạch toàn cầu ở tuyến đầu, đặt ra các câu hỏi như: Hệ thống có cho thấy dấu
hiệu có thể tự cải thiện năng lực không? Nó có thể xác định mục tiêu riêng của mình? Nó có thể
thu được nhiều tài nguyên hơn mà không cần sự giám sát của con người không? Nó có cố tình
được đào tạo để lừa dối hoặc thao túng không? Các ủy ban kiểm toán tương tự có thể hoạt động
ở hầu hết mọi lĩnh vực của làn sóng và một lần nữa sẽ cung cấp nền tảng cho các nỗ lực cấp
phép của chính phủ đồng thời giúp thúc đẩy một hiệp ước không phổ biến vũ khí hạt nhân.
Chủ nghĩa hiện thực cứng rắn có cơ hội thành công cao hơn nhiều so với những đề xuất mơ
hồ và khó có thể xảy ra. Chúng ta không cần phải tái tạo lại hoàn toàn bánh xe thể chế, tạo
ra nhiều cơ hội hơn cho sự cạnh tranh và sự nổi tiếng. Chúng ta nên tìm mọi cách có thể để
cải thiện nó—và nhanh chóng.
8. VĂN HÓA: TÔN TRỌNG
KIẾM ĐƯỢC THẤT BẠI

Chủ đề chung ở đây là quản trị: hệ thống phần mềm, vi mạch, doanh nghiệp và
viện nghiên cứu, quốc gia và cộng đồng quốc tế. Ở mỗi cấp độ là một loạt các
động cơ khuyến khích, chi phí chìm, sức ì của thể chế, các lãnh thổ xung đột
và các thế giới quan cần phải được loại bỏ. Không phạm lỗi. Đạo đức, an toàn,
ngăn chặn – trên hết đây sẽ là sản phẩm của quản trị tốt. Nhưng quản trị tốt
không chỉ đến từ các quy tắc được xác định rõ ràng và các khuôn khổ thể chế
hiệu quả.
Trong những ngày đầu của động cơ phản lực, những năm 1950, tai nạn và tử
vong xảy ra phổ biến một cách đáng lo ngại. Vào đầu những năm 2010, tỷ lệ này
chỉ là một trường hợp tử vong trên 7,4 triệu lượt hành khách lên máy bay.
Nhiều năm trôi qua mà không có tai nạn chết người nào liên quan đến máy bay
thương mại của Mỹ. Đi máy bay gần như là phương tiện di chuyển an toàn nhất:
ngồi ở độ cao 35.000 feet trên bầu trời sẽ an toàn hơn ngồi ở nhà trên ghế dài.
Thành tích an toàn ấn tượng của các hãng hàng không có được nhờ nhiều cải
tiến kỹ thuật và vận hành gia tăng trong những năm qua.
Nhưng đằng sau họ là một thứ cũng quan trọng không kém: văn hóa. Ngành hàng
không áp dụng cách tiếp cận mạnh mẽ để học hỏi từ những sai lầm ở mọi cấp độ.
Va chạm không chỉ là những tai nạn thương tâm đáng tiếc; chúng là những trải
nghiệm học tập nền tảng trong việc xác định nguyên nhân lỗi của hệ thống, cơ
hội chẩn đoán sự cố, khắc phục sự cố và chia sẻ kiến thức đó trong toàn bộ
ngành. Do đó, các phương pháp hay nhất không phải là bí mật của công ty, một
lợi thế so với các hãng hàng không đối thủ: chúng được các đối thủ cạnh tranh
nhiệt tình thực hiện vì lợi ích chung về sự tin cậy và an toàn của toàn ngành.
Đó là những gì cần thiết cho làn sóng sắp tới: sự ủng hộ thực sự và quyết
tâm từ tất cả những người tham gia vào các công nghệ tiên phong. Tất cả đều
đang xây dựng và thúc đẩy các sáng kiến và chính sách về đạo đức và an toàn
rất tốt, nhưng bạn cần những người giao hàng thực sự tin tưởng vào chúng.
Mặc dù ngành công nghệ nói về một trò chơi lớn khi nói đến việc “chấp nhận
thất bại”, nhưng ngành này hiếm khi làm như vậy khi đề cập đến quyền riêng tư,
an toàn hoặc vi phạm kỹ thuật. Ra mắt một sản phẩm không được ưa chuộng là một
chuyện, nhưng sở hữu một mô hình ngôn ngữ gây ra ngày tận thế thông tin sai lệch
hoặc một loại thuốc gây ra phản ứng bất lợi còn khó chịu hơn nhiều. Những lời chỉ
trích về công nghệ, không phải không có lý do chính đáng, lại không ngừng gay
gắt. Cạnh tranh cũng vậy. Một hậu quả là ngay khi một công nghệ hoặc sản phẩm mới
gặp trục trặc, văn hóa giữ bí mật sẽ xâm chiếm. Sự cởi mở và tin tưởng lẫn nhau
vốn là đặc điểm của các phần của quá trình phát triển đã bị mất đi.
Các cơ hội học tập và truyền bá kiến thức đó sẽ biến mất. Ngay cả việc thừa nhận
sai lầm, mở cửa xả lũ cũng được coi là rủi ro, điều không nên làm đối với doanh
nghiệp.
Nỗi sợ thất bại và sự phản đối của công chúng đang dẫn đến tình trạng trì trệ.
Việc tự báo cáo ngay lập tức các vấn đề phải là cơ sở cho cả cá nhân và tổ chức.
Nhưng thay vì được khen ngợi vì đã thử nghiệm, các công ty và nhóm lại bị bỏ
rơi. Làm điều đúng đắn chỉ gây ra phản ứng dữ dội của sự hoài nghi, Twitter rực
lửa và việc ghi điểm công khai một cách ác độc. Tại sao mọi người lại thực sự
thừa nhận sai lầm của họ trong bối cảnh này? Điều này phải dừng lại nếu chúng ta
muốn tạo ra những công nghệ tốt hơn, có trách nhiệm hơn, dễ sử dụng hơn.
Chấp nhận thất bại phải là sự thật, không phải là một lời nói suông. Đầu
tiên, việc hoàn toàn cởi mở về những thất bại ngay cả trong những chủ đề không
thoải mái sẽ nhận được những lời khen ngợi chứ không phải những lời lăng mạ. Điều
đầu tiên mà một công ty công nghệ nên làm khi gặp phải bất kỳ loại rủi ro, nhược
điểm hoặc chế độ thất bại nào là giao tiếp một cách an toàn với thế giới rộng lớn
hơn. Khi một phòng thí nghiệm bị rò rỉ thông tin, điều đầu tiên nó nên làm là
quảng cáo sự thật chứ không phải che đậy nó. Điều đầu tiên mà các tác nhân khác
trong không gian—các công ty, nhóm nghiên cứu, chính phủ khác—cần làm là lắng
nghe, phản ánh, đưa ra hỗ trợ và quan trọng nhất là học hỏi và tích cực thực hiện
việc học đó. Thái độ này đã cứu sống hàng ngàn sinh mạng trên bầu trời. Nó có thể
tiết kiệm thêm hàng triệu người trong những năm tới.
Ngăn chặn không thể chỉ là về chính sách này hay chính sách kia, danh sách
kiểm tra hoặc sáng kiến, mà cần đảm bảo rằng có một nền văn hóa tự phê bình
tích cực muốn thực hiện chúng, hoan nghênh việc có các cơ quan quản lý trong
phòng, trong phòng thí nghiệm, một nền văn hóa nơi các cơ quan quản lý muốn
học hỏi từ các nhà công nghệ và ngược lại. Nó cần mọi người muốn tham gia,
sở hữu nó, yêu thích nó. Nếu không thì sự an toàn vẫn là điều cần cân nhắc.
Trong số rất nhiều, và không chỉ trong lĩnh vực AI, có cảm giác rằng chúng tôi
“chỉ” là nhà nghiên cứu, “chỉ” khám phá và thử nghiệm. Điều đó đã không xảy ra
trong nhiều năm và là một ví dụ điển hình về việc chúng ta cần thay đổi văn
hóa. Các nhà nghiên cứu phải được khuyến khích lùi bước khỏi việc liên tục
vội vã hướng tới việc xuất bản. Kiến thức là hàng hóa công cộng, nhưng nó
không còn là mặc định nữa. Những người tích cực tiến hành nghiên cứu tiên
phong cần phải là người đầu tiên nhận ra điều này, như những người đồng
nghiệp của họ trong lĩnh vực vật lý hạt nhân và virus học đã nhận ra. Trong
AI, tôi nghĩ các khả năng như tự cải thiện đệ quy và quyền tự chủ là những
ranh giới mà chúng ta không nên vượt qua. Điều này sẽ có các yếu tố kỹ thuật
và pháp lý, nhưng cũng cần có sự tham gia về mặt đạo đức, tình cảm, văn hóa
từ những người và tổ chức gần gũi nhất với nó.
Năm 1973, một trong những nhà phát minh ra kỹ thuật di truyền, Paul Berg,
đã tập hợp một nhóm các nhà khoa học trên Bán đảo Monterey ở California. Anh
ấy bắt đầu lo lắng về những gì phát minh của mình có thể mang lại và muốn đặt
ra một số quy tắc cơ bản cũng như nền tảng đạo đức để tiến về phía trước.
Tại trung tâm hội nghị Asilomar, họ đã đặt ra những câu hỏi khó được đặt ra
bởi ngành học mới này: Chúng ta có nên bắt đầu biến đổi gen con người không?
Nếu vậy, những đặc điểm nào có thể được cho phép? Hai năm sau, họ trở lại với
số lượng lớn hơn nữa tại Hội nghị Asilomar về DNA tái tổ hợp. Cổ phần trong
khách sạn ven biển đó rất cao. Đó là một bước ngoặt trong ngành khoa học sinh
học, thiết lập các nguyên tắc bền vững để quản lý nghiên cứu di truyền và công
nghệ nhằm đặt ra các hướng dẫn và giới hạn đạo đức đối với những thí nghiệm
có thể diễn ra.
Tôi đã tham dự một hội nghị ở Puerto Rico vào năm 2015 nhằm mục đích làm
điều gì đó tương tự cho AI. Với một nhóm hỗn hợp, nó muốn nâng cao
hồ sơ về an toàn AI, bắt đầu xây dựng văn hóa thận trọng và phác thảo các câu trả lời thực tế.
Chúng tôi gặp lại nhau vào năm 2017, tại địa điểm mang tính biểu tượng của Asilomar, để soạn
thảo một bộ nguyên tắc AI mà tôi cùng với nhiều người khác trong lĩnh vực này đã ký kết. Họ
hướng tới việc xây dựng một nền văn hóa nghiên cứu AI có trách nhiệm rõ ràng và truyền cảm
hứng cho một loạt sáng kiến tiếp theo. Khi làn sóng tiếp tục hình thành, chúng ta sẽ cần phải
tự giác quay trở lại nhiều lần với tinh thần—và lá thư—của Asilomar.
Trong nhiều thiên niên kỷ, lời thề Hippocrates đã là kim chỉ nam đạo đức cho ngành y. Trong
tiếng Latin, Primum non nocere. Đầu tiên không gây hại. Người đoạt giải Nobel Hòa bình và nhà
khoa học người Anh gốc Ba Lan Joseph Rotblat, một người rời Los Alamos vì lý do lương tâm,
lập luận rằng các nhà khoa học cần một cái gì đó tương tự. Ông tin rằng trách nhiệm xã hội và
đạo đức là điều không một nhà khoa học nào có thể gạt sang một bên. Tôi đồng ý và chúng ta nên
xem xét một phiên bản hiện đại dành cho các nhà công nghệ: không chỉ hỏi việc không gây hại có
ý nghĩa gì trong thời đại thuật toán trải dài toàn cầu và bộ gen được chỉnh sửa mà còn hỏi làm
thế nào điều đó có thể được thực hiện hàng ngày trong những hoàn cảnh thường mơ hồ về mặt đạo
đức.
Những nguyên tắc phòng ngừa như thế này là bước đi đầu tiên tốt. Tạm dừng trước khi xây
dựng, tạm dừng trước khi xuất bản, xem xét mọi thứ, ngồi xuống và tìm ra các tác động thứ hai,
thứ ba, thứ n. Tìm tất cả bằng chứng và nhìn nó một cách lạnh lùng. Tất nhiên không ngừng đúng.
Hãy sẵn sàng dừng lại. Làm tất cả những điều này không chỉ vì nó nói như vậy dưới một hình
thức nào đó, mà bởi vì đó là điều đúng đắn, đó là điều mà các nhà công nghệ làm.
Những hành động như thế này không thể chỉ hoạt động như luật lệ hay khẩu hiệu của công ty.
Luật pháp chỉ mang tính quốc gia, những câu thần chú của công ty là nhất thời, quá thường mang
tính thẩm mỹ. Thay vào đó, họ phải hoạt động ở một mức độ sâu hơn, theo đó văn hóa công nghệ
không phải là “tư duy kỹ thuật” phù hợp mà là một thứ gì đó cảnh giác hơn, tò mò hơn về những
gì có thể xảy ra. Một nền văn hóa lành mạnh là một nền văn hóa vui vẻ để trái trên cây, nói
không, trì hoãn các lợi ích trong bao lâu để được an toàn, một nền văn hóa mà các nhà công
nghệ nhớ rằng công nghệ chỉ là phương tiện để đạt được mục đích chứ không phải bản thân mục
đích.
9. PHONG TRÀO: SỨC MẠNH NHÂN DÂN
Xuyên suốt cuốn sách này, từ “chúng tôi” đã được nhắc đến. Nó có thể đề cập
đến “chúng tôi” tác giả và đồng tác giả, “chúng tôi” các nhà nghiên cứu và
doanh nhân AI, “chúng tôi” cộng đồng khoa học và công nghệ rộng rãi hơn, “chúng
tôi” ở phương Tây toàn cầu hoặc “chúng tôi” tổng cộng nhân loại.
(Đối mặt với công nghệ thay đổi loài và toàn cầu hoàn toàn là một trong số ít
nơi mà việc nói về “chúng ta” của con người thực sự được đảm bảo.)
Khi mọi người nói về công nghệ – bao gồm cả tôi – họ thường đưa ra những
lập luận như sau. Bởi vì chúng tôi xây dựng công nghệ nên chúng tôi có thể
khắc phục những vấn đề mà nó tạo ra. Điều này đúng theo nghĩa rộng nhất.
Tuy nhiên, vấn đề là ở đây không có chữ “chúng tôi” mang tính chức năng. Không
có sự đồng thuận và không có cơ chế thống nhất để hình thành sự đồng thuận.
Thực sự không có “chúng tôi” và chắc chắn không có đòn bẩy nào mà “chúng tôi”
có thể kéo được. Điều này là hiển nhiên, nhưng nó cần phải lặp lại. Ngay cả
tổng thống Hoa Kỳ cũng có quyền hạn hạn chế đáng kể trong việc thay đổi tiến
trình của Internet.
Thay vào đó, vô số tác nhân phân tán đôi khi làm việc cùng nhau và đôi khi
có mục đích khác nhau. Các công ty và quốc gia, như chúng ta đã thấy, có những
ưu tiên khác nhau, những động lực không đồng đều và xung đột nhau.
Phần lớn những mối quan tâm về công nghệ như những điều được nêu trong cuốn
sách này là những mục tiêu theo đuổi của giới thượng lưu, những luận điểm thú
vị dành cho phòng chờ hạng thương gia, các bài bình luận về các ấn phẩm được
cấp phép hoặc các chủ đề cho các phòng thuyết trình ở Davos hoặc TED. Hầu hết
nhân loại vẫn chưa lo lắng về những điều này một cách có hệ thống. Ngoài
Twitter, ngoài bong bóng, hầu hết mọi người đều có những mối quan tâm rất khác
nhau, những vấn đề khác đòi hỏi sự chú ý trong một thế giới mong manh. Giao
tiếp xung quanh AI không phải lúc nào cũng hữu ích, có xu hướng rơi vào những
câu chuyện đơn giản.
Vì vậy, nếu lời cầu nguyện lớn “chúng ta” hiện tại là vô nghĩa, thì nó sẽ
dẫn đến một giải pháp tiếp theo rõ ràng: hãy xây dựng một cái. Trong suốt lịch
sử, sự thay đổi diễn ra bởi vì con người tự ý thức làm việc vì nó.
Áp lực phổ biến đã tạo ra những chuẩn mực mới. Việc xóa bỏ chế độ nô lệ, quyền
bầu cử của phụ nữ, quyền công dân - đây là những thành tựu đạo đức to lớn đạt
được nhờ mọi người đã đấu tranh kiên cường, xây dựng các liên minh trên diện
rộng, coi trọng một yêu sách lớn và sau đó thực hiện thay đổi dựa trên nó.
Khí hậu không chỉ được đưa lên bản đồ vì mọi người nhận thấy thời tiết ngày
càng khắc nghiệt hơn. Họ chú ý bởi vì các nhà hoạt động cấp cơ sở và các nhà
khoa học và sau đó là (một số) nhà văn, người nổi tiếng, CEO và chính trị gia
đã kích động để có được sự thay đổi có ý nghĩa.
Và họ hành động vì mong muốn làm điều đúng đắn.
Nghiên cứu cho thấy rằng khi được giới thiệu về chủ đề các công nghệ mới
nổi và rủi ro của chúng, mọi người thực sự quan tâm và muốn tìm ra giải pháp.
Mặc dù nhiều tác hại vẫn còn chưa giải quyết được nhưng tôi tin rằng mọi
người hoàn toàn có khả năng đọc được chữ rune ở đây. Tôi vẫn chưa tìm thấy
ai đã xem video của Boston Dynamics về một chú chó robot hoặc xem xét khả năng
xảy ra một đại dịch khác mà không rùng mình sợ hãi.
Đây là một vai trò to lớn cho các phong trào phổ biến. Trong khoảng hơn 5
năm qua, phong trào xã hội dân sự đang phát triển đã bắt đầu làm nổi bật những
vấn đề này. Các phương tiện truyền thông, công đoàn, tổ chức từ thiện, các
chiến dịch cấp cơ sở—tất cả đều tham gia, chủ động tìm cách tạo ra công nghệ
chứa đựng. Tôi hy vọng rằng thế hệ những người sáng lập và xây dựng của tôi
sẽ tiếp thêm sinh lực cho những phong trào này thay vì cản trở. Trong khi đó,
các hội đồng công dân đưa ra một cơ chế để đưa một nhóm rộng hơn vào cuộc
đối thoại. Một đề xuất là tổ chức xổ số để chọn ra một mẫu đại diện cho dân
chúng để tranh luận sâu sắc và đưa ra các đề xuất về cách quản lý các công
nghệ này.
Được tiếp cận với các công cụ và lời khuyên, đây sẽ là một cách để biến việc
ngăn chặn trở thành một quy trình tập thể, chu đáo và có căn cứ hơn.
Thay đổi xảy ra khi mọi người yêu cầu nó. “Chúng tôi” xây dựng công nghệ
nằm rải rác, chịu sự cạnh tranh và các khuyến khích nghiên cứu, thương mại và
quốc gia khác nhau. Càng “chúng tôi” chịu sự điều chỉnh của nó thì càng nói
rõ ràng bằng một giọng nói, một khối công chúng phê phán
kích động sự thay đổi, đòi hỏi sự liên kết giữa các phương pháp tiếp cận thì cơ
hội đạt được kết quả tốt sẽ cao hơn. Bất cứ ai ở bất cứ đâu cũng có thể tạo nên
sự khác biệt. Về cơ bản, cả các nhà công nghệ và chính phủ đều không thể giải
quyết vấn đề này một mình. Nhưng cùng nhau, “chúng ta” đều có thể.
10. CON ĐƯỜNG Hẹp: CON ĐƯỜNG DUY NHẤT
LÀ QUA
Chỉ vài ngày sau khi phát hành GPT-4, hàng nghìn nhà khoa học AI đã ký một bức
thư ngỏ kêu gọi tạm dừng nghiên cứu các mô hình AI mạnh mẽ nhất trong sáu tháng.
Đề cập đến các nguyên tắc của Asilomar, họ trích dẫn những lý do quen thuộc với
những người đọc cuốn sách này: “Những tháng gần đây đã chứng kiến các phòng thí
nghiệm AI bị mắc kẹt trong một cuộc chạy đua ngoài tầm kiểm soát nhằm phát triển
và triển khai những bộ óc kỹ thuật số mạnh mẽ hơn bao giờ hết mà không ai—kể cả
người sáng tạo ra chúng—có thể làm được. hiểu, dự đoán hoặc kiểm soát một cách đáng tin cậy.”
Ngay sau đó, Ý đã cấm ChatGPT. Một khiếu nại chống lại LLM đã được đệ trình lên
Ủy ban Thương mại Liên bang nhằm mục đích kiểm soát quy định chặt chẽ hơn nhiều.
Các câu hỏi về rủi ro AI đã được đặt ra tại cuộc họp báo ở Nhà Trắng. Hàng triệu
người đã thảo luận về tác động của công nghệ—tại nơi làm việc, tại bàn ăn tối.
Một cái gì đó đang được xây dựng. Không phải vậy, nhưng lần đầu tiên các câu
hỏi về làn sóng sắp tới đang được xử lý một cách cấp bách mà chúng xứng đáng được
nhận.
Mỗi ý tưởng được nêu ra cho đến nay đều đại diện cho sự khởi đầu của một bức
tường chắn sóng, một rào cản thủy triều dự kiến bắt đầu từ các chi tiết cụ thể
của công nghệ và mở rộng ra bên ngoài đến mức bắt buộc phải hình thành một phong
trào toàn cầu lớn để tạo ra sự thay đổi tích cực. Không ai trong số họ làm việc
một mình. Tuy nhiên, hãy đan các biện pháp như thế này lại với nhau và một phác
thảo về biện pháp ngăn chặn sẽ được đưa ra.
Một ví dụ điển hình đến từ nhà công nghệ sinh học Kevin Esvelt của MIT. Rất ít
người đã xem xét các mối đe dọa an toàn sinh học một cách chi tiết hơn. Những mầm
bệnh riêng biệt được thiết kế để gây ra tối đa

tử vong? Kevin quyết tâm dùng mọi công cụ để ngăn chặn chúng xảy ra. Chương
trình của ông là một trong những chiến lược ngăn chặn toàn diện nhất hiện
nay. Nó được xây dựng dựa trên ba trụ cột: trì hoãn, phát hiện và phòng
thủ.
Để trì hoãn, ông lặp lại ngôn ngữ của công nghệ hạt nhân, đề xuất một
“hiệp ước cấm thử nghiệm đại dịch”, một thỏa thuận quốc tế nhằm ngừng thử
nghiệm trên các vật liệu gây bệnh nhất. Bất kỳ thí nghiệm nào làm tăng nguy
cơ xảy ra đại dịch một cách nghiêm trọng, bao gồm cả nghiên cứu nhằm đạt
được chức năng, sẽ bị cấm. Ông cũng ủng hộ một chế độ bảo hiểm và trách
nhiệm pháp lý hoàn toàn mới đối với bất kỳ ai làm việc với vi rút hoặc các
vật liệu sinh học có khả năng gây hại khác. Nó sẽ làm tăng chi phí trách
nhiệm một cách hữu hình ngay lập tức bằng cách tính đến những hậu quả thảm
khốc nhưng có xác suất thấp – hiện nay là những tác động tiêu cực bên
ngoài do mọi người khác gánh chịu – vào giá của nghiên cứu. Không chỉ các
tổ chức thực hiện nghiên cứu nguy hiểm tiềm tàng phải mua bảo hiểm bổ sung,
mà luật kích hoạt có nghĩa là bất kỳ ai được chứng minh là chịu trách
nhiệm về một thảm họa sinh học hoặc thảm họa lớn sẽ phải chịu trách nhiệm
pháp lý.
Việc sàng lọc DNA trên tất cả các bộ tổng hợp là điều bắt buộc và hơn
nữa, toàn bộ hệ thống phải dựa trên đám mây để có thể cập nhật theo thời
gian thực theo các mối đe dọa mới được hiểu và đang nổi lên. Việc phát
hiện nhanh chóng ổ dịch cũng quan trọng không kém trong lược đồ này, đặc
biệt đối với các mầm bệnh khó phát hiện có thời gian ủ bệnh dài. Hãy nghĩ
về một căn bệnh đã ngủ yên trong nhiều năm. Nếu bạn không nhận thức được
điều gì đang xảy ra, bạn không thể kiềm chế được nó.
Sau đó, nếu điều tồi tệ nhất xảy ra, hãy bảo vệ. Các quốc gia kiên
cường và có sự chuẩn bị là rất quan trọng: những đại dịch nghiêm trọng
nhất sẽ khiến việc duy trì lương thực, điện, nước, luật pháp và trật tự
cũng như chăm sóc sức khỏe trở nên khó khăn. Việc có sẵn kho dự trữ thiết
bị PPE chống đại dịch hiện đại cho tất cả những người lao động thiết yếu
sẽ tạo ra sự khác biệt lớn. Dây chuyền cung cấp thiết bị y tế mạnh mẽ cũng
có khả năng chịu được cú sốc nghiêm trọng. Những cái thấp-
Bóng đèn có bước sóng có thể tiêu diệt virus? Chúng cần có mặt ở khắp mọi
nơi, trước khi đại dịch bắt đầu, hoặc ít nhất là sẵn sàng triển khai.
Đặt tất cả các yếu tố ở đây lại với nhau và có một phác thảo về những gì
sẽ đáp ứng và phù hợp với làn sóng sắp tới.
1. An toàn kỹ thuật: Các biện pháp kỹ thuật cụ thể nhằm giảm thiểu
tác hại có thể xảy ra và duy trì kiểm soát.
2. Kiểm toán: Phương tiện đảm bảo tính minh bạch và trách nhiệm giải trình
thuộc về Công nghệ.
3. Điểm nghẽn: Đòn bẩy để làm chậm sự phát triển và câu giờ cho các
cơ quan quản lý và công nghệ phòng thủ.
4. Người tạo: Đảm bảo các nhà phát triển có trách nhiệm xây dựng các biện
pháp kiểm soát thích hợp vào công nghệ ngay từ đầu.
5. Doanh nghiệp: Điều chỉnh động lực của các tổ chức đứng sau
công nghệ với sự ngăn chặn của nó.
6. Chính phủ: Hỗ trợ các chính phủ, cho phép họ xây dựng công nghệ,
quản lý công nghệ và thực hiện giảm nhẹ
đo.
7. Liên minh: Tạo lập hệ thống hợp tác quốc tế để

hài hòa hóa các luật và chương trình.
8. Văn hóa: Văn hóa chia sẻ việc học và những thất bại để nhanh
chóng phổ biến các phương pháp giải quyết chúng.
9. Phong trào: Tất cả những điều này cần có ý kiến đóng góp của công chúng ở mọi cấp độ,
bao gồm cả việc gây áp lực lên từng thành phần và khiến nó phải chịu trách nhiệm.
Bước 10 nói về sự gắn kết, đảm bảo rằng mỗi yếu tố hoạt động hài hòa
với những yếu tố khác, sự ngăn chặn đó là một vòng tròn đạo đức của các
biện pháp củng cố lẫn nhau chứ không phải là một tạp âm lấp đầy khoảng trống của
các chương trình cạnh tranh. Theo nghĩa này, việc ngăn chặn không phải
là đề xuất cụ thể này hay gợi ý cụ thể khác mà là một hiện tượng nổi
lên trong sự tương tác tập thể của họ, một sản phẩm phụ của các xã hội
học cách quản lý và giảm thiểu rủi ro do Homo technologicus gây ra. Chỉ
một động thái sẽ không hiệu quả, cho dù với mầm bệnh hay máy tính lượng
tử hay AI, nhưng một kế hoạch như thế này sẽ có được sức mạnh nhờ sự
tích lũy cẩn thận của các biện pháp đối phó đan xen, các lớp bảo vệ
được xếp trên lan can từ các hiệp ước quốc tế để tăng cường chuỗi cung
ứng cho các công nghệ bảo vệ mới. Hơn nữa, những đề xuất như “trì hoãn,
phát hiện và bảo vệ” không phải là trạng thái kết thúc, điểm đến. An
toàn trong bối cảnh làn sóng sắp tới không phải là nơi chúng ta đến mà
là thứ phải được thực hiện liên tục.
Khu quản thúc không phải là nơi nghỉ ngơi. Đó là một con đường hẹp và không
bao giờ kết thúc.
nhà kinh tế học Daron Acemoglu và nhà khoa học chính trị James
Robinson chia sẻ quan điểm rằng các nền dân chủ tự do ít hơn nhiều
an toàn hơn vẻ ngoài của chúng. Họ coi nhà nước như một “Leviathan bị
xiềng xích” vốn không ổn định: rộng lớn và hùng mạnh, nhưng bị kiểm
soát bởi các xã hội và chuẩn mực dân sự dai dẳng. Theo thời gian, các
quốc gia như Hoa Kỳ đã bước vào cái mà họ gọi là “hành lang hẹp” khiến
họ luôn ở trong tình trạng cân bằng bấp bênh này. Ở hai bên hành lang
này có những cái bẫy. Một mặt, quyền lực của nhà nước phá vỡ quyền lực
của xã hội rộng lớn hơn và hoàn toàn thống trị nó, tạo ra những Leviathan
chuyên chế như Trung Quốc. Mặt khác, nhà nước tan rã, tạo ra những
Leviathan, những thây ma vắng mặt, nơi nhà nước không có quyền kiểm
soát thực sự đối với xã hội, như ở những nơi như Somalia hay Lebanon.
Cả hai đều gây ra hậu quả khủng khiếp cho dân số của họ.
Quan điểm của Acemoglu và Robinson là các quốc gia liên tục đi trên
hành lang này. Bất cứ lúc nào họ cũng có thể ngã. Mỗi sự gia tăng năng
lực nhà nước cần phải có sự gia tăng tương ứng về mặt xã hội.
khả năng cân bằng nó. Có một áp lực liên tục đối với những người Leviathan
chuyên quyền cần có sức nặng không đổi để dừng lại. Không có đích đến cuối
cùng, không có sự tồn tại hạnh phúc, an toàn và liên tục ở cuối hành lang;
đúng hơn, đó là một không gian năng động, không ổn định, nơi giới tinh hoa
và công dân tranh giành kết quả và bất cứ lúc nào những người Leviathan bị
xiềng xích cũng có thể biến mất hoặc trở nên chuyên quyền. An toàn là vấn
đề tiến về phía trước và cẩn thận duy trì sự cân bằng.
Tôi nghĩ phép ẩn dụ này đúng với cách chúng ta tiếp cận công nghệ, không
chỉ vì lập luận ở đây là công nghệ giờ đây khiến sự cân bằng đó trở nên bấp
bênh hơn rất nhiều. Công nghệ an toàn, khép kín, giống như nền dân chủ tự
do, không phải là trạng thái cuối cùng; đúng hơn, nó là một quá trình đang
diễn ra, một trạng thái cân bằng mong manh cần được duy trì tích cực, không
ngừng đấu tranh và bảo vệ. Không có lúc nào chúng ta phải nói, aha, chúng ta
đã giải quyết được vấn đề phổ biến công nghệ!
Thay vào đó, đó là việc tìm ra cách vượt qua, đảm bảo có đủ số lượng người
cam kết duy trì sự cân bằng vô tận giữa tính mở và tính đóng.
Thay vì một hành lang, ngụ ý một hướng di chuyển rõ ràng, tôi tưởng
tượng việc ngăn chặn như một con đường hẹp và nguy hiểm, bao phủ trong
sương mù, một vách núi lao dốc ở hai bên, thảm họa hoặc viễn cảnh chỉ cách
đó một quãng ngắn; bạn không thể nhìn xa về phía trước, và khi bạn bước
đi, con đường ngoằn ngoèo, tạo ra những chướng ngại vật bất ngờ.
Một mặt, sự cởi mở hoàn toàn đối với mọi thử nghiệm và phát triển là
công thức dễ dẫn đến thảm họa. Nếu mọi người trên thế giới đều có thể chơi
đùa với bom hạt nhân thì đến một lúc nào đó bạn sẽ xảy ra chiến tranh hạt
nhân. Nguồn mở đã là một lợi ích cho sự phát triển công nghệ và là động lực
lớn để tiến bộ rộng rãi hơn. Nhưng đó không phải là triết lý phù hợp cho
các mô hình AI mạnh mẽ hoặc các sinh vật tổng hợp; ở đây nó nên bị cấm.
Chúng không nên được chia sẻ chứ đừng nói đến việc triển khai hoặc phát
triển mà không có quy trình nghiêm ngặt.
Sự an toàn phụ thuộc vào việc mọi thứ không bị hư hỏng, không rơi vào
tay kẻ xấu, mãi mãi. Một số mức độ kiểm soát internet, bộ tổng hợp DNA,
chương trình nghiên cứu AGI, v.v. sẽ được thực hiện.
thiết yếu. Thật đau đớn khi viết. Khi còn là một thanh niên đôi mươi,
tôi bắt đầu từ quan điểm tối đa hóa quyền riêng tư, tin rằng không
gian giao tiếp và làm việc hoàn toàn không bị giám sát là các quyền
cơ bản và là một phần quan trọng của nền dân chủ lành mạnh. Tuy nhiên,
qua nhiều năm, khi các lập luận trở nên rõ ràng hơn và công nghệ ngày
càng phát triển, tôi đã cập nhật quan điểm đó. Việc tạo ra những tình
huống có nguy cơ xảy ra hậu quả thảm khốc luôn hiện hữu là điều không
thể chấp nhận được. Trí thông minh, cuộc sống, sức mạnh thô sơ— đây
không phải là đồ chơi và cần được đối xử bằng sự tôn trọng, quan tâm
và kiểm soát mà chúng xứng đáng có được. Các nhà công nghệ cũng như
công chúng sẽ phải chấp nhận mức độ giám sát và quy định cao hơn bao
giờ hết. Cũng như hầu hết chúng ta không muốn sống trong những xã hội
không có luật pháp và cảnh sát, hầu hết chúng ta cũng không muốn sống
trong một thế giới công nghệ không bị hạn chế.
Một số biện pháp chống phổ biến vũ khí hạt nhân là cần thiết. Và vâng,
chúng ta đừng né tránh sự thật; điều đó có nghĩa là sự kiểm duyệt thực sự, có
thể vượt ra ngoài biên giới quốc gia. Có những lúc người ta sẽ coi điều này —
có lẽ đúng — là quyền bá chủ không thể kiềm chế của Hoa Kỳ, sự kiêu ngạo và
ích kỷ của phương Tây. Thành thật mà nói, tôi không phải lúc nào cũng chắc
chắn đâu là sự cân bằng phù hợp, nhưng giờ đây tôi tin chắc rằng sự cởi mở
hoàn toàn sẽ đẩy nhân loại ra khỏi con đường hẹp. Tuy nhiên, ở phía bên kia
của cuốn sổ cái, cũng cần phải rõ ràng, việc giám sát toàn diện và đóng cửa
hoàn toàn là điều không thể tưởng tượng được, sai lầm và tai hại. Vượt quá
mức kiểm soát là con đường nhanh chóng dẫn đến chứng loạn thị. Nó cũng phải chống lại.
Trong khuôn khổ này, các quốc gia luôn gặp rủi ro. Tuy nhiên, một
số người đã cố gắng tiếp tục trong nhiều thế kỷ, làm việc chăm chỉ để
luôn dẫn đầu, giữ thăng bằng, chỉ vừa đủ bị xiềng xích. Mọi khía cạnh
của việc ngăn chặn, tất cả những gì chúng tôi đã mô tả, sẽ phải trải
qua sợi dây căng thẳng này. Mọi biện pháp được thảo luận ở đây hoặc
trong tương lai cần phải được xem xét trên phạm vi này — được đẩy đủ
xa để mang lại sự bảo vệ có ý nghĩa nhưng vẫn ngăn chặn việc đi quá xa.
—
Liệu có thể ngăn chặn làn sóng sắp tới?
Nhìn vào vô số con đường phía trước, tất cả những hướng đi khả thi mà công
nghệ sẽ lấy kinh nghiệm của con người, những khả năng được giải phóng, khả năng
biến đổi thế giới của chúng ta, có vẻ như nhiều hướng trong số đó đã thất bại
trong việc ngăn chặn. Con đường hẹp phải đi mãi mãi từ nay trở đi, chỉ cần một
bước sai lầm là sẽ rơi xuống vực thẳm.
Lịch sử cho thấy mô hình phổ biến và phát triển này đã bị khóa chặt. Các động
lực to lớn dường như đã cố thủ. Công nghệ khiến ngay cả những người sáng tạo ra
chúng cũng phải ngạc nhiên về tốc độ và sức mạnh phát triển của chúng. Mỗi ngày
dường như báo trước một bước đột phá, một sản phẩm hoặc một công ty mới. Các
cạnh tiên tiến khuếch tán trong vài tháng. Các quốc gia chịu trách nhiệm điều hành
cuộc cách mạng này đang thất bại vì nó.
Chưa hết, mặc dù có bằng chứng thuyết phục rằng việc ngăn chặn là không thể,
nhưng về bản chất, tôi vẫn là một người lạc quan. Những ý tưởng được trình bày ở
đây giúp cho chúng ta những công cụ và phương tiện để tiếp tục bước đi, từng bước
một, dọc theo con đường đó, những ngọn đèn, những sợi dây thừng và những bản đồ để
lang thang trên con đường quanh co phía trước. Thách thức thẳng thừng của việc
ngăn chặn không phải là lý do để quay lưng; đó là lời kêu gọi hành động, một sứ
mệnh mang tính thế hệ mà tất cả chúng ta cần phải đối mặt.
Nếu chúng ta— nhân loại chúng ta—có thể thay đổi bối cảnh với sự gia tăng của
các phong trào, doanh nghiệp và chính phủ mới đã cam kết, với các biện pháp khuyến
khích được sửa đổi, với năng lực kỹ thuật, kiến thức và các biện pháp bảo vệ được
nâng cao, thì chúng ta có thể tạo điều kiện để bắt đầu con đường bấp bênh đó với
một tia hy vọng. Và mặc dù quy mô của thử thách là rất lớn nhưng mỗi phần ở đây sẽ
đi sâu vào nhiều lĩnh vực nhỏ hơn mà bất kỳ cá nhân nào cũng có thể tạo ra sự khác
biệt. Nó sẽ đòi hỏi một nỗ lực to lớn để thay đổi căn bản xã hội, bản năng con
người và hình mẫu lịch sử của chúng ta. Nó còn lâu mới chắc chắn.
Có vẻ như không thể được. Nhưng việc giải quyết tình thế tiến thoái lưỡng nan của thế kỷ
XXI là điều có thể thực hiện được.
Tất cả chúng ta nên cảm thấy thoải mái khi sống với những mâu thuẫn trong thời
đại thay đổi theo cấp số nhân và quyền lực ngày càng mở rộng này. Giả sử
tệ nhất, hãy lên kế hoạch cho nó, cống hiến hết mình cho nó. Hãy kiên trì đi vào
con đường hẹp. Có được một thế giới ngoài giới thượng lưu tham gia và thúc đẩy.
Nếu có đủ người bắt đầu xây dựng cái “chúng tôi” khó nắm bắt đó, những tia hy vọng
đó sẽ trở thành ngọn lửa thay đổi dữ dội.

CUỘC SỐNG SAU KỲ ANTHOPOCENE
Nó đã yên tĩnh. cửa sổ và cửa chớp đều đóng, lửa và nến tắt, bữa ăn
đã được ăn xong. Sự nhộn nhịp và ồn ào của một ngày bận rộn đã lùi xa,
và chỉ thỉnh thoảng có tiếng sủa của một con chó, hay tiếng cào cấu
trong bụi rậm, hay tiếng gió xào xạc nhẹ nhàng trên cây phá vỡ sự im lặng.
Thế giới thở ra và chìm vào giấc ngủ.
Họ đến dưới sự che phủ của bóng tối này, khi họ không thể được
nhận ra. Hàng chục người trong số họ, đeo mặt nạ, cải trang, vũ trang,
giận dữ. Trong đêm tĩnh lặng và mát mẻ, có thể sẽ có cơ hội cho công
lý, nếu họ có thể giữ vững tinh thần.
Họ lặng lẽ rón rén tiến về phía tòa nhà to lớn, đồ sộ ở rìa thị
trấn. Một sự hiện diện vuông vắn, an toàn, ngăn cấm trong bóng tối,
cấu trúc này chứa đựng những công nghệ mới đắt tiền và gây tranh cãi—
những cỗ máy mà họ tin là kẻ thù. Bị bắt, những kẻ xâm nhập sẽ mất tất
cả, thậm chí cả mạng sống. Nhưng họ đã tuyên thệ. Đây chính là nó.
Không có đường lui đâu. Những cỗ máy, những ông chủ, họ không thể
thắng được.
Bên ngoài họ dừng lại và sau đó tấn công. Đập vào cánh cửa bị
khóa, cuối cùng họ phá vỡ nó, tràn vào. Dùng búa và dùi cui, họ
bắt đầu đập vỡ máy móc. Tiếng kim loại va vào kim loại vang lên.
Khi các mảnh vỡ vương vãi khắp sàn, chuông báo động bắt đầu vang
lên. Cửa chớp mở ra, đèn lồng của người canh gác vội vã được thắp
lên. Những kẻ phá hoại—những người Luddite—chạy tới lối ra và hòa
mình vào ánh trăng dịu nhẹ. Sự tĩnh lặng sẽ không trở lại.
—
vào khoảng đầu thế kỷ 19, nước Anh đang trải qua một làn sóng trước đó. Các công
nghệ dựa trên tự động hóa bằng hơi nước và cơ khí đang phá vỡ các quy tắc sản xuất,
lao động, giá trị, sự giàu có, năng lực và quyền lực. Cái mà chúng ta gọi là Cuộc
cách mạng công nghiệp lần thứ nhất đang diễn ra sôi nổi, từng nhà máy đang thay đổi
đất nước và thế giới. Năm 1785, nhà phát minh Edmund Cartwright đã cho ra mắt máy
dệt điện, một phương tiện dệt cơ giới mới. Lúc đầu nó không bắt kịp. Tuy nhiên,
chẳng bao lâu sau, những lần lặp lại tiếp theo đã cách mạng hóa ngành sản xuất dệt
may.
Không phải tất cả mọi người đều hạnh phúc. Máy dệt điện có thể được vận hành
bởi một đứa trẻ, sản xuất ra nhiều vải bằng ba thợ dệt truyền thống rưỡi. Cơ giới
hóa có nghĩa là lương của thợ dệt đã giảm hơn một nửa trong 45 năm sau năm 1770 ngay
cả khi giá thực phẩm cơ bản tăng vọt. Đàn ông lạc lõng trong thế giới mới trước phụ
nữ và trẻ em. Công việc dệt, từ dệt đến nhuộm, luôn là công việc vất vả, nhưng trong
các nhà máy thì ồn ào, tập thể, nguy hiểm và áp bức. Những đứa trẻ học kém sẽ bị
treo lên từ trần nhà hoặc buộc phải mang tạ nặng. Những cái chết là phổ biến. Giờ
trừng phạt. Đối với những người ở tuyến đầu, đang phải trả chi phí nhân lực cho quá
trình công nghiệp hóa, đây không phải là một điều không tưởng về công nghệ mới dũng
cảm; đó là một thế giới của những cối xay ma quái, sự nô lệ và sự khinh miệt.
Những người thợ dệt và thợ dệt truyền thống cảm nhận được máy móc mới
và nguồn vốn hậu thuẫn cho họ đang lấy đi việc làm của họ, cắt giảm tiền lương, đánh
cắp nhân phẩm của họ và tước đi lối sống giàu có.
Máy móc tiết kiệm lao động rất tốt cho các chủ nhà máy, nhưng đối với những công
nhân có tay nghề cao và được trả lương cao, những người có truyền thống thống trị
ngành dệt may, thì đó là một thảm họa.
Lấy cảm hứng từ một nhân vật thần thoại tên là Ned Ludd, những người thợ dệt
trên khắp vùng Trung du nước Anh trở nên tức giận và có tổ chức. Họ từ chối chấp
nhận bức tranh đó, rằng sự phổ biến sẽ là mặc định và làn sóng công nghệ bùng nổ
xung quanh họ là điều tất yếu về mặt kinh tế. Họ quyết định đánh trả.
Năm 1807, sáu nghìn thợ dệt biểu tình đòi cắt giảm lương, một cuộc
biểu tình bị phá vỡ bởi những con rồng cầm kiếm giết chết một người biểu tình.
Từ đó một chiến dịch bạo lực hơn bắt đầu hình thành. Năm 1811, những kẻ
phá hoại được đặt tên theo tên một chủ nhà máy ở Nottingham nhận được
một loạt thư từ “Tướng Ludd và Đội quân sửa chữa”.
Không có câu trả lời nào được đưa ra, và vào ngày 11 tháng 3, những người
thợ dệt thất nghiệp đã đột kích các nhà máy địa phương, phá hủy 63 máy móc và
đẩy mạnh chiến dịch.

Trong những tháng đột kích bí mật sau đó, hàng trăm khung hình đã bị
phá hủy. “Đội quân của Ned Ludd” đã đáp trả. Họ cảm thấy tất cả những
gì họ muốn là một mức lương công bằng và phẩm giá. Yêu cầu của họ
thường rất nhỏ - tăng lương khiêm tốn, áp dụng cách tiếp cận theo từng
giai đoạn đối với việc giới thiệu máy móc mới, một số loại cơ chế chia
sẻ lợi nhuận. Có vẻ như không có gì quá đáng để hỏi.
Các cuộc biểu tình của Luddite bắt đầu lắng xuống, bị dập tắt bởi
một bộ luật hà khắc và lực lượng phản quân. Vào khoảng thời gian này,
nước Anh chỉ có vài nghìn máy dệt tự động. Nhưng đến năm 1850 đã có
một phần tư triệu. Trận chiến đã thất bại, công nghệ bị phổ biến, cuộc
sống cũ của những người thợ dệt bị phá hủy, thế giới đã thay đổi. Đối
với những người thua cuộc, đây chính là làn sóng công nghệ không thể
kiểm soát được.
nhưng…
Về lâu dài, chính những công nghệ công nghiệp gây ra nhiều đau đớn
này đã dẫn đến sự cải thiện đáng kể về mức sống.
Nhiều thập kỷ, nhiều thế kỷ sau, hậu duệ của những người thợ dệt đó
sống trong những điều kiện mà người Luddite khó có thể tưởng tượng
được, đã quen với thế giới bấp bênh mà chúng ta coi là đương nhiên.
Đại đa số họ trở về nhà trong những ngôi nhà ấm áp vào mùa đông, với tủ
lạnh chứa đầy đồ ăn lạ. Khi bị bệnh, họ nhận được sự chăm sóc sức khỏe
kỳ diệu. Họ sống lâu hơn nhiều.
Cũng giống như chúng ta ngày nay, những người Luddites đang ở trong
tình thế khó khăn. Nỗi đau và sự gián đoạn của họ là có thật, nhưng những
cải thiện về mức sống cũng mang lại lợi ích cho con cháu họ và được bạn và
tôi tận hưởng một cách không suy nghĩ ngày nay. Hồi đó, Luddites đã thất
bại trong việc kiềm chế công nghệ. Nhưng dù sao thì nhân loại cũng đã thích nghi.
Thách thức ngày nay đã rõ ràng. Chúng ta phải khẳng định những lợi ích của
làn sóng mà không bị lấn át bởi những tác hại của nó. Đảng Luddites đã thua
trong chiến dịch của họ, và tôi nghĩ rất có thể những người ngăn chặn công
nghệ ngày nay sẽ một lần nữa không thành công.
Cách duy nhất là làm điều này đúng ngay từ lần đầu tiên. Để đảm bảo rằng
việc thích ứng với công nghệ không chỉ được áp đặt cho con người như
trong Cách mạng Công nghiệp. Nhưng để đảm bảo rằng ngay từ đầu, công nghệ
đã thích ứng với con người, với cuộc sống và hy vọng của họ. Công nghệ
thích ứng là công nghệ chứa. Nhiệm vụ cấp bách nhất không phải là cưỡi lên
hay ngăn chặn làn sóng một cách vô ích mà là điêu khắc nó.
Làn sóng sắp tới sẽ thay đổi thế giới. Cuối cùng, con người có thể
không còn là động lực chính của hành tinh nữa, như chúng ta đã quen với
việc đó. Chúng ta sẽ sống trong một kỷ nguyên mà phần lớn các tương tác
hàng ngày của chúng ta không phải với người khác mà là với AI. Điều này
nghe có vẻ hấp dẫn, kinh hoàng hoặc vô lý, nhưng nó đang xảy ra. Tôi đoán
bạn đã dành phần lớn thời gian thức dậy trước màn hình. Quả thực, bạn có
thể dành nhiều thời gian nhìn vào những màn hình chung trong cuộc sống của
mình hơn bất kỳ con người nào, kể cả vợ chồng và con cái.
Vì vậy, không có gì đáng ngạc nhiên khi thấy rằng chúng ta sẽ ngày càng
dành nhiều thời gian hơn để nói chuyện và tương tác với những cỗ máy mới
này. Loại và bản chất của trí tuệ nhân tạo và sinh học mà chúng ta gặp và
tương tác sẽ hoàn toàn khác so với bây giờ. Họ sẽ là những người làm công
việc của chúng ta cho chúng ta, tìm kiếm thông tin, tập hợp các bài thuyết
trình, viết chương trình đó, đặt hàng mua sắm và quà Giáng sinh năm nay,
tư vấn cách tốt nhất để tiếp cận một vấn đề, hoặc có thể chỉ là trò chuyện
và chơi đùa.
Họ sẽ là những trí thông minh cá nhân của chúng ta, những người bạn đồng hành và
giúp đỡ, những người bạn tâm tình và đồng nghiệp, những người đứng đầu văn phòng,
những trợ lý và những phiên dịch viên. Họ sẽ tổ chức cuộc sống của chúng ta và lắng
nghe những ham muốn cháy bỏng cũng như những nỗi sợ hãi đen tối nhất của chúng ta.
Họ sẽ giúp điều hành công việc kinh doanh của chúng ta, chữa trị bệnh tật và chiến
đấu trong các trận chiến của chúng ta. Nhiều loại tính cách, khả năng và hình thức
khác nhau sẽ xuất hiện trong suốt một ngày bình thường. Thế giới tinh thần và đàm
thoại của chúng ta sẽ gắn bó chặt chẽ với tập hợp trí tuệ mới và kỳ lạ này. Văn hóa,
chính trị, kinh tế; tình bạn, vui chơi, tình yêu: tất cả sẽ phát triển song song.
Thế giới ngày mai sẽ là nơi các nhà máy phát triển sản phẩm tại địa phương, gần
giống như các trang trại ở các thời đại trước. Máy bay không người lái và robot sẽ
có mặt khắp nơi. Bộ gen của con người sẽ là một thứ có tính đàn hồi, và do đó, tất
yếu, sẽ là ý tưởng của chính con người. Tuổi thọ sẽ dài hơn nhiều so với tuổi thọ
của chúng ta. Nhiều người sẽ biến mất gần như hoàn toàn vào thế giới ảo. Những gì
từng có vẻ là một hợp đồng xã hội đã được giải quyết sẽ bị biến dạng và biến dạng.
Học cách sống và phát triển trong thế giới này sẽ là một phần cuộc sống của mọi người
trong thế kỷ XXI.
Phản ứng Luddite là tự nhiên, được mong đợi. Nhưng như mọi khi, nó sẽ vô ích.
Tuy nhiên, vào thời điểm đó, các nhà công nghệ chưa nghĩ đến việc áp dụng công nghệ
của họ cho phù hợp với mục đích của con người, giống như Carl Benz và các ông trùm
dầu mỏ đầu tiên chưa nghĩ đến bầu khí quyển của trái đất. Thay vào đó, công nghệ
được tạo ra, vốn cấp vốn cho nó và mọi người khác đều tham gia, bất kể hậu quả lâu
dài ra sao.
Lần ngăn chặn này phải viết lại câu chuyện đó. Có thể vẫn chưa có “chúng tôi”
toàn cầu nhưng hiện tại có một nhóm người đang xây dựng công nghệ này. Chúng tôi
chịu trách nhiệm rất lớn trong việc đảm bảo rằng việc thích ứng không diễn ra một
chiều. Rằng, không giống như khung dệt điện, không giống như khí hậu, làn sóng sắp
tới thích ứng với nhu cầu của con người, được xây dựng xung quanh những mối quan
tâm của con người. Làn sóng sắp tới không nên được tạo ra để phục vụ những lợi ích
xa xôi, tuân theo một chương trình nghị sự mù quáng về công nghệ – hoặc tệ hơn.
Quá nhiều tầm nhìn về tương lai bắt đầu từ những gì công nghệ có thể hoặc có thể
làm và hoạt động từ đó. Đó hoàn toàn là nền tảng sai lầm. Các nhà công nghệ không chỉ
nên tập trung vào những chi tiết kỹ thuật vụn vặt mà còn giúp tưởng tượng và hiện
thực hóa một tương lai xã hội, con người phong phú hơn theo nghĩa rộng nhất, một tấm
thảm phức tạp trong đó công nghệ chỉ là một sợi. Công nghệ đóng vai trò trung tâm trong
việc tương lai sẽ diễn ra như thế nào—điều đó chắc chắn là đúng—nhưng công nghệ không
phải là mục tiêu của tương lai hay những gì thực sự đang bị đe dọa. Chúng tôi là.
Công nghệ sẽ khuếch đại những gì tốt nhất của chúng ta, mở ra những con đường mới
cho sự sáng tạo và hợp tác, phù hợp với bản chất con người trong cuộc sống và những
mối quan hệ quý giá nhất của chúng ta. Nó sẽ làm cho chúng ta hạnh phúc và khỏe mạnh
hơn, sự bổ sung cuối cùng cho nỗ lực của con người và cuộc sống tốt đẹp - nhưng luôn
tuân theo các điều kiện của chúng ta, được quyết định một cách dân chủ, tranh luận
công khai, với các lợi ích được phân bổ rộng rãi. Giữa sự hỗn loạn, chúng ta không bao
giờ được phép quên điều này: một tầm nhìn mà ngay cả những người theo chủ nghĩa
Luddite nhiệt thành nhất cũng có thể theo đuổi.
Nhưng trước khi chúng ta đạt được điều đó, trước khi chúng ta có thể phát huy
hết tiềm năng vô biên của các công nghệ sắp tới, làn sóng và tình thế tiến thoái lưỡng
nan trung tâm của nó cần được ngăn chặn, cần có sự kiểm soát mạnh mẽ chưa từng có và
toàn diện của con người đối với toàn bộ thế giới công nghệ. Nó sẽ đòi hỏi sự quyết tâm
cao độ trong nhiều thập kỷ trên phạm vi nỗ lực của con người. Đây là một thách thức to
lớn mà kết quả của nó sẽ quyết định chất lượng và bản chất của cuộc sống hàng ngày
trong thế kỷ này và hơn thế nữa.
Những rủi ro của sự thất bại hiếm khi được nghĩ tới nhưng chúng ta phải đối mặt
với chúng. Tuy nhiên, giải thưởng thật tuyệt vời: không gì kém hơn sự hưng thịnh lâu
dài và an toàn của loài quý giá của chúng ta.
Điều đó đáng để đấu tranh.

SỰ NHÌN NHẬN
Sách cũng là một trong những tác phẩm có tính biến đổi nhất trong lịch sử
công nghệ. Và giống như bất kỳ trường hợp nào của công nghệ biến đổi, họ
bẩm sinh là những doanh nghiệp có tinh thần đồng đội. Điều này cũng không
ngoại lệ. Ngay từ đầu, nó đã là một sự hợp tác hoành tráng của tác giả kéo
dài hơn hai mươi năm tình bạn và thảo luận không ngừng.
Crown đã là người hỗ trợ đáng kinh ngạc cho dự án này ngay từ giai
đoạn đầu. David Drake là một người hiện diện khôn ngoan và tràn đầy năng
lượng, hướng dẫn cuốn sách với tầm nhìn xuất bản xuất sắc. Chúng tôi vô
cùng may mắn khi có được biên tập viên Paul Whitlatch, người đã hết lần
này đến lần khác thực hiện vô số cải tiến cho cuốn sách với sự kiên nhẫn
và sáng suốt đáng kinh ngạc. Xin gửi lời cảm ơn tới Madison Jacobs, Katie
Berry và Chris Brand. Stuart Williams tại Bodley Head ở London cũng là
một người có tiếng nói biên tập thông minh và trung thành.
người ủng hộ, và chúng tôi rất vinh dự có được hai đặc vụ tuyệt vời là Tina
Bennett và Sophie Lambert. Ngay từ đầu dự án, Celia Pannetier đã làm việc với
tư cách là nhà nghiên cứu vô giá của chúng tôi và là một phần quan trọng trong
việc sắp xếp các bằng chứng, trong khi Sean Lavery để mắt kiểm tra tính xác
thực của mình trên toàn bộ cuốn sách.
Một số lượng lớn người đã đọc cuốn sách này trong nhiều năm. Họ
gặp nhau để trò chuyện chi tiết, đọc các chương, thảo luận lại, đưa
ra ý tưởng và sửa lỗi. Rất nhiều cuộc gọi, hội thảo, phỏng vấn, chỉnh
sửa và đề xuất đã giúp tạo ra cuốn sách này. Mỗi người ở đây đều dành
thời gian và sự quan tâm để trò chuyện, chia sẻ kiến thức chuyên môn,
tranh luận và giảng dạy cho chúng tôi.
Xin gửi lời cảm ơn đặc biệt tới nhiều người đã đọc toàn bộ bản thảo
và nhận xét chi tiết; sự hào phóng và mức độ hiểu biết sâu sắc phi thường của
họ là hoàn toàn vô giá trong việc tạo ra bản thảo cuối cùng.
Xin gửi lời cảm ơn chân thành đến Gregory Allen, Graham Allison (và rộng
rãi hơn là các giảng viên và nhân viên của Trung tâm Belfer của Harvard), Sahar
Amer, Anne Applebaum, Julian Baker, Samantha Barber, Gabriella Blum, Nick
Bostrom, Ian Bremmer, Erik Brynjolfsson, Ben Buchanan, Sarah Carter, Rewon
Child, George Church, Richard Danzig, Jennifer Doudna, Alexandra Eitel, Maria
Eitel, Henry Elkus, Kevin Esvelt, Jeremy Fleming, Jack Goldsmith, Al Gore,
Tristan Harris, Zaid Hassan, Jordan Hoffman, Joi Ito, Ayana Elizabeth Johnson,
Danny Kahneman, Angela Kane, Melanie Katzman, Henry Kissinger, Kevin Klyman,
Heinrich Küttler, Eric Lander, Sean Legassick, Aitor Lewkowycz, Leon Marshall,
Jason Matheny, Andrew McAfee, Greg McKelvey, Dimitri Mehlhorn, David Miliband,
Martha Minow, Geoff Mulgan, Aza Raskin, Tobias Rees, Stuart Russell, Jeffrey
Sachs, Eric Schmidt, Bruce Schneier, Marilyn Thompson, Mayo Thompson, Thomas
Viney, Maria Vogelauer, Mark Walport, Morwenna White, Scott Young và Jonathan
Zittrain.
Những người đồng sáng lập Inflection của tôi, Reid Hoffman và Karén
Simonyan, vì đã là những cộng tác viên tuyệt vời. Và những người đồng sáng lập
DeepMind của tôi, Demis Hassabis và Shane Legg, vì sự hợp tác của họ trong một
thập kỷ phi thường. Michael muốn cảm ơn những người đồng sáng lập của anh ấy
tại Canelo, Iain Millar và Nick Barreto, vì sự hỗ trợ liên tục của họ, nhưng
trên hết là người vợ tuyệt vời của anh ấy, Dani, và các con trai, Monty và Dougie.
LƯU Ý
Để có thư mục các cuốn sách được tư vấn, vui lòng truy cập
trang web the-coming-wave.com/bibliography.

Chương 1: Không thể ngăn chặn được
Giá vài chục nghìn Ví dụ, Kilobaser DNA & RNA Synthesizer, được
bán với giá khởi điểm 25.000 USD. Xem trang web của nó:
kilobaser.com/dna-and-rna-synthesizer.
ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

chương 2: sự phát triển vô tận
Hai mươi năm sau khi Benz được cấp bằng sáng chế TÜV Nord Group, “Lịch
sử tóm tắt về động cơ đốt trong,” TÜV Nord Group, ngày 18 tháng 4 năm
2019, www.tuev-nord.de/explore/en/remembers/a-brief-history-of
-động cơ đốt trong.
Ford tiếp tục tăng cường sản xuất Burton W. Folsom, “Henry Ford and
the Triumph of the Auto Industry,” Foundation for Economic Education,
ngày 1 tháng 1 năm 1998, Fee.org/articles/henry-ford-and-the-triumph-of
-ngành công nghiệp ô tô.
Khoảng 1,4 tỷ “Có bao nhiêu ô tô trên thế giới vào năm 2023?”, Hedges
& Company, tháng 6 năm 2021, hedgescompany.com/blog/ 2021/06/how-many-
cars-are-there-in-the-world; “ Động cơ đốt trong—Con đường phía trước,”
Industr, ngày 22 tháng 1 năm 2019, www.industr.com/en/internal-combustion-
engine-the-road-ahead-2357709# .
Đó là câu chuyện về chính công nghệ. Có một cuộc tranh luận học thuật
gay gắt về định nghĩa chính xác của công nghệ. Trong cuốn sách này,
chúng tôi đưa ra một định nghĩa thông thường hàng ngày: việc áp dụng
kiến thức khoa học (theo nghĩa rộng nhất có thể) để tạo ra các công cụ
hoặc kết quả thực tế. Tuy nhiên, tính phức tạp đầy đủ, nhiều mặt của
thuật ngữ này cũng được thừa nhận. Công nghệ mở rộng trở lại vào nền
văn hóa và thực tiễn. Nó không chỉ là bóng bán dẫn, màn hình và bàn
phím. Chính kiến thức rõ ràng và ngầm của các lập trình viên, đời sống
xã hội và xã hội đã hỗ trợ họ.

Công nghệ có một ý nghĩa rõ ràng. Các học giả về công nghệ đưa ra sự
phân biệt giữa sự phổ biến và sự phổ biến mà phần lớn được nêu ra ở
đây. Chúng tôi muốn nói đến họ theo cách thông tục hơn là trang trọng
giác quan.
Khi khoa học tạo ra những khám phá mới Điều này cũng hoạt động theo
hướng khác: công nghệ tạo ra các công cụ và hiểu biết mới thúc đẩy khoa
học, như khi động cơ hơi nước giúp làm sáng tỏ nhu cầu về khoa học
nhiệt động lực học hoặc công nghệ thủy tinh phức tạp đã tạo ra các kính
thiên văn làm thay đổi hiểu biết của chúng ta về không gian.
Nói một cách đơn giản, làn sóng là một tập hợp của Robert Ayres, “Chuyển
đổi công nghệ và Sóng dài. Phần I,” Dự báo công nghệ và thay đổi xã hội
37, không. 1 (tháng 3 năm 1990), www.sciencedirect.com/science/article/
abs/pii/0040162590900573 .
Bởi “mục đích chung” Thuật ngữ này mới lạ một cách đáng ngạc nhiên đối
với một thứ đã trở nên rất quan trọng đối với sự hiểu biết về công nghệ,
bắt nguồn từ một bài báo kinh tế học từ đầu những năm 1990. Xem Timothy
F. Bresnahan và Manuel Trajtenberg, “Công nghệ mục đích chung 'Động cơ
tăng trưởng'?,” (bài viết nghiên cứu, NBER, tháng 8 năm 1992),
www.nber.org/papers/w4148.
Nó có tác động rõ rệt đến quá trình tiến hóa Richard Wrangham, Catching
Fire: How Cooking Made Us Human (London: Profile Books, 2010).

Tài khoản gợn sóng công nghệ đa năng lấy từ Richard Lipsey, Kenneth Carlaw
và Clifford Bekar, Chuyển đổi kinh tế: Công nghệ mục đích chung và tăng
trưởng kinh tế dài hạn (Oxford: Nhà xuất bản Đại học Oxford, 2005).
Ngôn ngữ, nông nghiệp, chữ viết Về mặt kỹ thuật, ngôn ngữ một lần nữa có
thể được coi là công nghệ nguyên mẫu hoặc nền tảng cho mục đích chung.
Một nghiên cứu lớn đã đề cập đến Lipsey, Carlaw và Bekar, Chuyển đổi kinh
tế.
Trong suốt lịch sử, quy mô dân số Để có giải thích rõ ràng về cách thức
hoạt động của quá trình này, hãy xem Oded Galor, The Journey of Humanity:
The Origins of Wealth and Inequality (London: Bodley Head, 2022).
Dân số lớn hơn và kết nối nhiều hơn Michael Muthukrishna và Joseph Henrich,
“Sự đổi mới trong bộ não tập thể,”
Các giao dịch triết học của Hiệp hội Hoàng gia B 371, không. 1690 (2016),
royalsocietypublishing.org/doi/10.1098/rstb.2015.0192.
Vào lúc bình minh Galor, Hành trình của nhân loại, 46.
Như nhà nhân chủng học Harvard Muthukrishna và Henrich, “Sự đổi mới trong
bộ não tập thể”.

Mười nghìn năm Lipsey, Carlaw và Bekar, Những chuyển đổi kinh tế.
Và trong một trăm năm gần đây Phần còn lại nằm trong khoảng từ 1000 bce
đến 1700 ce.
Dành cho nhà tương lai học Alvin Toffler Alvin Toffler, Làn sóng thứ ba
(New York: Bantam, 1984). Xem thêm tác phẩm của Nikolai Kondratiev về sóng
chu kỳ dài.
Nhà triết học vĩ đại về công nghệ Lewis Mumford, Kỹ thuật và Văn minh
(Chicago: Nhà xuất bản Đại học Chicago, 1934).
Gần đây hơn, nhà kinh tế học Carlota Perez, Cuộc cách mạng công nghệ và
vốn tài chính: Động lực của bong bóng và thời kỳ hoàng kim (Cheltenham,
UK: Edward Elgar, 2002).
Tuy nhiên, một khi quá trình khuếch tán bắt đầu, thực tế, một dấu hiệu
ban đầu của sự phát triển nhanh chóng có thể là, so với sự lan rộng hàng
thiên niên kỷ của các cối xay nước, trong vòng vài năm kể từ lần đầu tiên
được phát minh, cối xay gió đã được nhìn thấy ở khắp mọi nơi từ miền bắc
nước Anh đến Syria. Xem Lynn White Jr., Medieval Technology and Social
Change (Oxford: Oxford University Press, 1962), 87.
Nhưng chỉ năm mươi năm sau Elizabeth L. Eisenstein, Nhà in ấn là tác
nhân của sự thay đổi: Truyền thông và văn hóa
Những biến đổi ở Châu Âu thời kỳ cận đại (Cambridge, Vương quốc Anh:
Nhà xuất bản Đại học Cambridge, 1979).
Vào thế kỷ XVII , Eltjo Buringh và Jan Luiten Van Zanden, “Lập biểu đồ
'Sự trỗi dậy của phương Tây': Bản thảo và sách in ở châu Âu, một góc
nhìn dài hạn từ thế kỷ thứ sáu đến thế kỷ thứ mười tám,” Tạp chí Lịch
sử Kinh tế, ngày 1 tháng 6 , 2009, www.cambridge.org/core/journals/
journal-of-kinh tế-history/article/abs/charting-the-rise-of-the-west-
manuscripts-and-printed-books-in-europe-a- quan điểm dài hạn từ thế kỷ
thứ sáu đến thế kỷ mười tám/0740F5F9030A706BB7E9FACCD5D975D4.
Một phân tích ước tính Max Roser và Hannah Ritchie, “Giá sách: Năng
suất trong sản xuất sách,” Thế giới dữ liệu của chúng ta,
ourworldindata.org/books.
Các nhà máy điện đầu tiên Ủy ban Thành viên Ba Lan của Hội đồng Năng
lượng Thế giới, “Ngành Năng lượng của Thế giới và Ba Lan: Sự khởi
đầu, Phát triển, Hiện trạng,” Hội đồng Năng lượng Thế giới, tháng 12
năm 2014, www.worldenergy.org/assets/images/imported /2014/12/
Energy_Sector_of_the_world_and_Poland_EN.pdf.
Năm 1900 sản xuất điện toàn cầu Vaclav Smil, “Năng lượng trong thế kỷ
20: Tài nguyên, Chuyển đổi, Chi phí, Sử dụng và Hậu quả,” Đánh giá
thường niên về Năng lượng và Môi trường 25 (2000), www.annualreviews.org/
doi/pdf/10.1146 / annurev.energy.25.1.21.

Kết quả là, một người bình thường William D. Nordhaus, “Sản lượng thực
tế và các biện pháp tiền lương thực tế có nắm bắt được thực tế không?
Lịch sử chiếu sáng cho thấy là không,” Tổ chức Nghiên cứu Kinh tế Cowles
tại Đại học Yale, tháng 1 năm 1996, https://cowles.yale.edu/sites/default/
files/2022-08/d0381.pdf .
Mười năm sau có 5,8 triệu Galor, Hành trình của nhân loại, 46.
Ngày nay nước Mỹ có rất nhiều Nếu tính cả điện thoại cố định và điện thoại
di động.
Việc tăng chất lượng tham gia đồng nghĩa với việc giảm “ Máy tính lạm
phát truyền hình,” Tổ chức dữ liệu chính thức, www.in2013dollars.com/Tivi/
price-inflation .
Bắt chước thúc đẩy cạnh tranh Anuraag Singh và cộng sự, “Dự đoán tỷ lệ
cải tiến công nghệ cho tất cả các công nghệ: Sử dụng dữ liệu bằng sáng chế
và mô tả miền mở rộng,” Chính sách nghiên cứu 50, không. 2021),
(Tháng 11 www.sciencedirect.com/science/article/pii/ 9
S0048733321000950#. Tuy nhiên, có sự khác biệt đáng kể giữa các bộ công
nghệ khác nhau.
Giống như động cơ đốt trong Tất nhiên, những đề xuất này đã có từ xa xưa
hơn, ít nhất là từ thời Babbage và Lovelace vào thế kỷ 19.

Đến năm 1945, tiền thân quan trọng của George Dyson, Nhà thờ Turing:
Nguồn gốc của vũ trụ kỹ thuật số (London: Allen Lane, 2012).
Đầu thập kỷ đó, chủ tịch IBM Nick Carr, “Thế giới cần bao nhiêu máy
tính? Ít hơn bạn nghĩ,”
Guardian, ngày 21 tháng 2 năm 2008, www.theguardian.com/technology/2008/
feb/21/computing.supercomputers .
Tạp chí Popular Mechanics đã đưa ra bài viết về James Meigs, “Bên trong
tương lai: PopMech dự đoán 110 năm tới như thế nào,” Popular Mechanics,
ngày 21 tháng 12 năm 2012, www.popularmechanics.com/technology/a8562/
inside-the-future-how-popmech- dự đoán-110-năm-tiếp theo-14831802/#.
Quyền lực của họ đã tăng thêm 10. Xem ví dụ, Darrin Qualman, “Đầu ra
không thể tưởng tượng được: Sản xuất bóng bán dẫn toàn cầu,”
Blog Darrin Qualman, ngày 24 tháng 4 năm 2017, www.darrinqualman.com/
global-production-transistors/ ; Azeem Azhar, Exponential: Công nghệ tăng
tốc đang bỏ chúng ta lại phía sau như thế nào và phải làm gì với nó
(London: Random House Business, 2021), 21; và Vaclav Smil, Thế giới thực
sự hoạt động như thế nào: Hướng dẫn của nhà khoa học về quá khứ, hiện
tại và tương lai của chúng ta (London: Viking, 2022), 128.
Vào đầu những năm 1970 , John B. Smith, “Internet Chronology,” Khoa học
Máy tính UNC, www.cs.unc.edu/~jbs/resources/Internet/ internet_chron.html.

Nó tạo ra thêm một Azhar, số mũ, 219.
Bây giờ con người tạo ra hàng trăm Ibid., 228.

chương 3: vấn đề ngăn chặn
Hiểu công nghệ, một phần là Robert K. Merton, Về cấu trúc xã hội và
khoa học (Chicago: Nhà xuất bản Đại học Chicago, 1996), đưa ra nghiên
cứu kinh điển, nhưng cũng xem thêm Ulrich Beck, Risk Society: Hướng
tới một hiện đại mới (London: SAGE, 1992), về việc xã hội đã bị chi
phối bởi việc quản lý những rủi ro do chính nó tạo ra như thế nào.
Xem thêm Edward Tenner, Tại sao mọi thứ cắn lại: Công nghệ và sự trả
thù của những hậu quả ngoài ý muốn (New York: Vintage, 1997), và
Charles Perrow, Tai nạn thông thường: Sống chung với công nghệ rủi ro
cao (Princeton, NJ: Nhà xuất bản Đại học Princeton, 1984) .
Đối với nhiều người, từ “ngăn chặn” George F. Kennan, “Nguồn gốc ứng
xử của Liên Xô,” Ngoại giao, tháng 7 năm 1947, www.cvce.eu/content/
publication/1999/1/1/a0f03730-dde8-4f06-a6ed -d740770dc423/
publishable_en.pdf.
Khi báo in ầm ầm Tài khoản này được lấy từ Anton Howes, “Age of
Invention: Did the Ottomans Ban Print?”, Age of Invention, ngày 19
tháng 5 năm 2021, antonhowes.substack.com/p/age-of-invention-did -những
chiếc ghế dài có đệm.
John Kay, nhà phát minh Ví dụ lấy từ Joel Mokyr, Đòn bẩy của sự giàu
có: Sáng tạo công nghệ và tiến bộ kinh tế (Oxford: Nhà xuất bản Đại
học Oxford, 1990).
Tương tự, Trung Quốc bác bỏ Harold Marcuse, “Ch'ien Lung

(Càn Long) Thư gửi George III (1792),” Lịch sử UC Santa Barbara
Phòng, marcuse.faculty.history.ucsb.edu/classes/2c/texts/
1792QianlongThưGeorgeIII.htm.
Chẳng hạn, rất ít xã hội từng đọc Joseph A. Tainter, The Collapse of Complex
Societies (Cambridge, UK: Cambridge University Press, 1988), và Jared
Diamond, Collapse: How Societies Choose to Fail or Survive (London: Penguin,
2005 ), để biết thêm về quá trình này.
Vào ngày 11 tháng 9 năm 1933 Waldemar Kaempffert, “Rutherford làm nguội đi
hy vọng năng lượng nguyên tử,” New York Times, ngày 12 tháng 9 năm 1933,
timemachine.nytimes.com/timesmachine/1933/09/12/ 99846601.html.
Vài tuần sau, một chiếc Boeing B-29 Alex Wellerstein, “Đếm người chết ở
Hiroshima và Nagasaki,” Bản tin của các nhà khoa học nguyên tử, ngày 4 tháng
8 năm 2020, thebulletin.org/2020/08/counting-the-dead-at-hiroshima- và-
nagasaki.
Năm 1946, Báo cáo Acheson-Lilienthal Xem David Lilienthal và cộng sự, “Báo
cáo về Kiểm soát Quốc tế về Năng lượng Nguyên tử,” ngày 16 tháng 3 năm
1946, fissilematerials.org/library/ach46.pdf.
Mặc dù các nước thích “Hiệp ước cấm thử nghiệm một phần” của Trung Quốc,
Sáng kiến Đe dọa Hạt nhân, tháng 2 năm 2008, www.nti.org/education-center/
treaties-and-regimes/treaty-banning-nuclear-test-atmosphere-outer-space-
and -dưới nước-một phần-kiểm tra-cấm-hiệp ước-ptbt/.
Một bước ngoặt xảy ra vào năm 1968 “Dòng thời gian của Hiệp ước Không phổ biến
Vũ khí Hạt nhân (NPT),” Hiệp hội Kiểm soát Vũ khí, tháng 8 năm 2022,
www.armscontrol.org/factsheets/Timeline-of-the-Treaty-on-the-Non-Proliferation- of-
Vũ khí hạt nhân-NPT.
Rốt cuộc, đó chỉ là vào năm 2019 Liam Stack, “Hoàn thành cập nhật: Hoa Kỳ
Vũ khí hạt nhân không còn cần đĩa mềm nữa,” New York Times, ngày 24 tháng 10 năm
2019, www.nytimes.com/2019/10/24/us/nucle-weapons-floppy-disks.html.
Tai nạn là quân đoàn. Các tài liệu ở đây phần lớn được lấy từ Eric Schlosser,
Command and Control (London: Penguin, 2014) và John Hughes-Wilson, Eve of
Destruction: The Inside Story of Our Dangerous Nuclear World (London: John Blake,
2021) .
Trục trặc phần cứng nhỏ William Burr, “Cảnh báo sai về các cuộc tấn công bằng tên
lửa của Liên Xô khiến Lực lượng Hoa Kỳ trong tình trạng báo động năm 1979–1980,”
Cơ quan Lưu trữ An ninh Quốc gia, ngày 16 tháng 3 năm 2020 , nsarchive.gwu.edu/
brief-book/nucle-vault/2020-03-16/false-warnings-soviet-missile-Attack-
during-1979-80-led-alert-actions -us-chiến lược-lực lượng.
Triều Tiên đã tìm đến Paul K. Kerr đặc biệt, “Hợp tác hạt nhân và tên lửa đạn
đạo Iran–Bắc Triều Tiên–Syria,”
Cơ quan Nghiên cứu Quốc hội, ngày 26 tháng 2 năm 2016, sgp.fas.org/crs/nuke/
R43480.pdf .

Trung Quốc, Ấn Độ và Pakistan là Graham Allison, “Chủ nghĩa khủng bố hạt nhân:
Chúng ta đã đánh bại khó khăn hay thay đổi chúng?”, PRISM, ngày 15 tháng 5 năm
2018, cco.ndu.edu/News/Article/1507316/nucle-terrorism-did- chúng ta-đánh
bại-tỷ lệ-hoặc-thay đổi-chúng.
Brazil và Argentina thậm chí cả José Goldemberg, “Nhìn lại: Bài học từ quá
trình phi hạt nhân hóa của Brazil và Argentina,” Hiệp hội Kiểm soát Vũ khí,
tháng 4 năm 2006, www.armscontrol.org/act/2006-04/Look-back-lessons-
denuclearization-brazil- Argentina.
Rất nhiều vật liệu hạt nhân Richard Stone, “Thành phần bom bẩn bị mất tích từ
Phòng thí nghiệm giám sát Chornobyl,” Khoa học, ngày 25 tháng 3 năm 2022,
www.science.org/content/article/dirty-bomb-ingredients-go-missing-chornobyl-
monitoring- phòng thí nghiệm.
Năm 2018, plutonium Patrick Malone và R. Jeffrey Smith, “Plutonium đang bị
thiếu, nhưng Chính phủ không nói gì,” Trung tâm Liêm chính Công cộng, ngày 16
tháng 7 năm 2018 , publicintegrity.org/national-security/plutonium-is-missing-
but- chính phủ-không nói gì.
Nghe có vẻ huyền ảo Zaria Gorvett, “The Lost Nuclear Bombs That No One Can
Find,” BBC Future, ngày 4 tháng 8 năm 2022 , www.bbc.com/future/article/20220804-

the-lost-nuclear-bombs-that- không ai có thể tìm thấy.
Vũ khí hóa học gần đây được coi là “Dòng thời gian của Cơ quan Hóa học Syria”.
Hoạt động vũ khí, 2012–2022,” Hiệp hội kiểm soát vũ khí, tháng 5 năm 2021,
www.armscontrol.org/factsheets/Timeline-of-Syrian-Chemical-
Weapons-Activity.
Nếu không có chúng, mô hình gợi ý Paul J. Young, “Nghị định thư
Montreal bảo vệ bể chứa carbon trên mặt đất,” Nature, ngày 18 tháng 8
năm 2021, www.nature.com/articles/s41586-021-03737-3.epdf.

Chương 4: Công nghệ trí tuệ
Chỉ sau ba cặp Natalie Wolchover, “Có bao nhiêu cách khác nhau
Một ván cờ có thể diễn ra được không?”, Popular Science, 15/12/2010,
www.popsci.com/science/article/2010-12/fyi-how-many-other-ways-can-chess-
game-unfold.
Tổng cộng, bảng có “AlphaGo,” DeepMind, www.deepmind.com/

nghiên cứu/nghiên cứu nổi bật/alphago. Tuy nhiên, một số báo cáo
số thậm chí còn cao hơn; ví dụ: Scientific American trích dẫn 10360
cấu hình. Xem Christof Koch, “Máy tính đánh bại cờ vây như thế nào
Bậc thầy," Khoa học Mỹ, tháng 3 năm 2016, 19,
www.scientificamerican.com/article/how-the-computer-beat-the-go-master.
Càng có nhiều công nghệ W. Brian Arthur, Bản chất của

Công nghệ: Nó là gì và nó phát triển như thế nào (London: Allen Lane,
2009), 31.
Học giả công nghệ Everett Rogers Everett M. Rogers,

Truyền bá sự đổi mới (New York: Free Press, 1962), hoặc xem
các bài viết về cách mạng công nghiệp của các học giả như Joel Mokyr.
Kỹ sư và nhà tương lai học Ray Kurzweil Ray Kurzweil, Làm thế nào để
Tạo ra trí óc: Bí mật suy nghĩ của con người được tiết lộ (New York:
Chim cánh cụt Viking, 2012).

Bây giờ chúng ta thấy điều này trên See, chẳng hạn như Azalia Mirhoseini và cộng sự, “A
Phương pháp sắp xếp đồ thị cho thiết kế chip nhanh,” Nature, tháng 6
Ngày 9 tháng 1 năm 2021, www.nature.com/articles/s41586-021-03544-w; và Lewis
Grozinger và cộng sự, “Con đường dẫn đến ưu thế của tế bào trong điện toán sinh học,”
Nature Communications, ngày 20 tháng 11 năm 2019, www.nature.com/articles/

s41467-019-13232-z.
Khoảnh khắc đột phá đã đến với Alex Krizhevsky và cộng sự, “ImageNet
Phân loại bằng Mạng lưới thần kinh chuyển đổi sâu,” Thần kinh
Hệ thống xử lý thông tin, tháng 9 năm 2012, 30,
thủ tục tố tụng.neurips.cc/paper/2012/file/
c399862d3b9d6b76c8436e924a68c45b-Paper.pdf.
Năm 2012, AlexNet đánh bại Jerry Wei với bài viết “AlexNet: The Architecture That
CNN đầy thách thức,” Hướng tới Khoa học Dữ liệu, ngày 2 tháng 7 năm 2019,
hướng tớidatascience.com/alexnet-the-architecture-that-challenged-cnns-
e406d5297951.
Nhờ công nghệ học sâu Chanan Bos, “Máy tính tự lái HW3 mới của Tesla—Đó là một
con quái vật,” CleanTechnica, ngày 15 tháng 6 năm 2019,
cleantechnica.com/2019/06/15/teslas-new-hw3-self-drive-computer-its-a-
beast-cleantechnica-deep-dive.
Nó giúp điều khiển máy bay không người lái Jeffrey De Fauw và cộng sự, “Áp dụng lâm sàng
Học sâu để chẩn đoán và giới thiệu bệnh võng mạc,”
Y học Tự nhiên, ngày 13 tháng 8 năm 2018, www.nature.com/articles/s41591-

018-0107-6.

Đến những năm 2020, đã có gần hai nghìn “Tiến bộ trong Hệ thống xử lý
thông tin thần kinh”, NeurIPS, Papers.nips.cc.
Trong sáu năm qua “Nghiên cứu & Phát triển,” trong Báo cáo Chỉ số Trí
tuệ Nhân tạo năm 2021, Trí tuệ Nhân tạo lấy Con người làm Trung tâm của
Đại học Stanford, tháng 3 năm 2021 , aiindex.stanford.edu/wp-content/
uploads/2021/03/2021-AI-Index -Báo cáo-_Chapter-1.pdf.
Ở mọi nơi bạn nhìn, phần mềm Để diễn giải Marc Andreessen.
Tại DeepMind, chúng tôi đã phát triển hệ thống “DeepMind AI Giảm 40% chi
phí làm mát trung tâm dữ liệu của Google,” DeepMind, ngày 20 tháng 7 năm
2016, www.deepmind.com/blog/deepmind-ai-reduces-google-data-centre-
cooling-bill- đến 40.
Với 1,5 tỷ tham số “Mô hình ngôn ngữ tốt hơn và ý nghĩa của chúng”,
OpenAI, ngày 14 tháng 2 năm 2019, openai.com/blog/better-lingu-models.
Trong vài năm tới, hãy xem Martin Ford, Quy tắc của robot: Trí tuệ nhân
tạo sẽ biến đổi mọi thứ như thế nào (London: Basic Books, 2021), để có
sự so sánh phát triển.
Thực tế hơn, Amy Watson, người Mỹ trung bình , “Thời gian đọc trung
bình ở Mỹ từ 2018 đến 2021, theo nhóm tuổi,”
Statista, ngày 3 tháng 8 năm 2022, www.statista.com/statistics/412454/

average-daily-time-reading-us-by-age.
Hàng trăm triệu đầu tiên Microsoft và NVIDIA chế tạo máy biến áp
mô hình với 530 tỷ tham số, mô hình Tạo ngôn ngữ tự nhiên Megatron-Turing
(MT-NLG), lớn hơn 31 lần so với các mô hình máy biến áp mạnh nhất của họ
chỉ một năm trước đó.
Sau đó đến Wu Dao, từ Học viện Trí tuệ Nhân tạo Bắc Kinh, với thông số
được cho là 1,75 nghìn tỷ — gấp mười lần GPT-3. Ví dụ: hãy xem Tanushree
Shenwai, “Microsoft và NVIDIA AI giới thiệu MT-NLG: Mô hình NLP ngôn ngữ
biến đổi nguyên khối lớn nhất và mạnh nhất,” MarkTech Post, ngày 13 tháng
10 năm 2021, www.marktechpost.com/2021/10/13 /microsoft-and-nvidia-ai-
introduces-mt-nlg-the-lớn nhất và mạnh mẽ nhất-nguyên khối-
transformer-ngôn ngữ-nlp-model.
Công ty Trung Quốc Alibaba “Học viện Alibaba DAMO tạo ra mô hình đào tạo
trước AI lớn nhất thế giới, với các thông số vượt xa Google và Microsoft,”
Pandaily, ngày 8 tháng 11 năm 2021, pandaily.com/alibaba-damo-academy-creates-
worlds-large- ai-pre-training-model-with-parameters-far-exceeding-google-
and-microsoft.
PaLM của Google sử dụng Một hình ảnh tuyệt vời từ Alyssa Vance, giả sử mỗi
“giọt” chiếm 0,5 mililít: mobile.twitter.com/ alyssamvance/status/
1542682154483589127.
Nhưng nó sử dụng chương trình đào tạo hiệu quả William Fedus và cộng sự,
“Switch Transformers: Scaling to Trillion Parameter Models with Simple and
Độ thưa thớt hiệu quả,” Tạp chí Nghiên cứu Máy học, ngày 16 tháng 6
năm 2022, arxiv.org/abs/2101.03961.
Hoặc xem Chinchilla Alberto Romero của DeepMind, “Xu hướng AI mới:
Chinchilla (70B) vượt trội hơn nhiều so với GPT-3 (175B) và Gopher
(280B),” Hướng tới khoa học dữ liệu, ngày 11 tháng 4 năm 2022, hướng
tớidatascience.com/a -new- ai-trend-chinchilla-70b-tốt hơn rất
nhiều-gpt-3-175b-and-gopher-280b-408b9b4510.
Ở đầu bên kia của quang phổ Xem github.com/karpathy/ nanoGPT để biết
thêm chi tiết.
Meta có nguồn mở Susan Zhang và cộng sự, “Dân chủ hóa quyền truy cập
vào các mô hình ngôn ngữ quy mô lớn với OPT-175B,” Meta AI, ngày 3
tháng 5 năm 2022, ai.facebook.com/blog/democratizing-access-to-large-
mô hình ngôn ngữ tỷ lệ-với-opt-175b.
Trong vòng vài ngày, ai đó đã tìm thấy Xem, chẳng hạn như twitter.com/
miolini/status/1634982361757790209 .
Một phân tích cho thấy nó khiến các kỹ sư Eirini Kalliamvakou, “Nghiên
cứu: Định lượng tác động của GitHub Copilot đối với năng suất và hạnh
phúc của nhà phát triển,” GitHub, ngày 7 tháng 9 năm 2022, github.blog/
2022-09-07 -research-quantifying-github-copilots-impact -về
năng suất và hạnh phúc của nhà phát triển.

Theo lời của Matt Welsh nổi tiếng, “Sự kết thúc của lập trình,” Truyền thông
của ACM, tháng 1 năm 2023, cacm.acm.org/magazines/2023/1/267976-the-end-of-

programming/ fulltext.
Tuy nhiên, khi được nhắc nhở tương tự Emily Sheng và cộng sự, “Người phụ nữ
làm nghề trông trẻ: Về những thành kiến trong thế hệ ngôn ngữ,” arXiv, ngày
23 tháng 10 năm 2019, arxiv.org/pdf/1909.01326.pdf.
Trong nhiều giờ, Lemoine Nitasha Tiku, “Kỹ sư Google nghĩ rằng AI của công
ty đã đi vào cuộc sống,” Washington Post, ngày 11 tháng 6 năm 2022,
www.washingtonpost.com/technology/2022/06/11/ google-ai-lamda -blake-chanh.
Anh ấy nói với Steven Levy, người phỏng vấn đầy hoài nghi của Wired , “Blake
Lemoine nói LaMDA AI Faces của Google 'Bigotry',” Wired, ngày 17 tháng 6 năm
2022, www.wired.com/story/blake-lemoine-google-lamda-ai-bigotry.
“Ngay khi nó hoạt động” Được trích dẫn trong Moshe Y. Vardi, “Trí tuệ nhân
tạo: Quá khứ và Tương lai,” Truyền thông của ACM, tháng 1 năm 2012,
cacm.acm.org/magazines/2012/1/144824-artificial-intelligence- quá khứ và
tương lai/toàn văn.
Họ lập luận rằng AI có thể đang làm chậm lại Joel Klinger và cộng sự, “A Thu
hẹp nghiên cứu AI?,” Máy tính và Xã hội, ngày 11 tháng 1 năm 2022, arxiv.org/
abs/2009.10385.

Các nhà phê bình như giáo sư NYU Gary Marcus Gary Marcus, “Học sâu đang chạm
tường,” Nautilus, ngày 10 tháng 3 năm 2022, nautil.us/deep-learning-is-
hitting-a-wall-14467.
giáo sư nổi tiếng về sự phức tạp Melanie Mitchell Xem Melanie Mitchell, Trí
tuệ nhân tạo: Hướng dẫn cho con người tư duy (London: Pelican Books, 2020)
và Steven Strogatz, “Melanie Mitchell đưa nghiên cứu AI trở về cội nguồn của
nó,” Tạp chí Quanta, ngày 19 tháng 4 năm 2021 , www.quantamagazine.org/melanie-
mitchell-takes-ai-research-back-to-its-roots-20210419.
Tôi nghĩ điều đó sẽ được thực hiện. Trung tâm Nghiên cứu Liên kết đã thử
nghiệm GPT-4 về loại khả năng chính xác này. Nghiên cứu cho thấy GPT-4 ở giai
đoạn này “không hiệu quả” trong khả năng hoạt động tự chủ.
“Thẻ hệ thống GPT-4,” OpenAI, ngày 14 tháng 3 năm 2023, cdn.openai.com/papers/
gpt-4-system-card.pdf . Trong vòng vài ngày kể từ khi ra mắt, mọi người đã
trở nên thân thiết một cách đáng ngạc nhiên; ví dụ: hãy xem mobile.twitter.com/
jacksonfall/status/1636107218859745286. Tuy nhiên, phiên bản thử nghiệm ở đây
yêu cầu quyền tự chủ cao hơn nhiều so với phiên bản được hiển thị ở đó.

Chương 5: Công nghệ của cuộc sống
Cũng giống như mọi thứ từ động cơ hơi nước Susan Hockfield, Thời đại máy sống:
Sinh học sẽ xây dựng cuộc cách mạng công nghệ tiếp theo như thế nào (New York:
WW Norton, 2019).
Sau đó, nghiên cứu vi khuẩn vào năm 1973, Stanley N. Cohen và cộng sự, “Xây dựng
các Plasmid vi khuẩn có chức năng sinh học trong ống nghiệm,”
1, 1973,
PNAS, tháng 11 www.pnas.org/doi/abs/10.1073/pnas.70.11.3240.
Đây là “Dự án bộ gen người” kéo dài 13 năm , Viện nghiên cứu bộ gen người quốc
gia, ngày 24 tháng 8 năm 2022, www.genome.gov/about-genomics/educational-resources/
fact-sheets/human-genome-project.
Trong khi định luật Moore chính đáng là “Cuộc sống 2.0,” Economist, ngày 31 tháng
8 năm 2006, www.economist.com/special-report/2006/08/31/life-20.
Nhờ các kỹ thuật ngày càng cải tiến Xem “Chi phí giải trình tự bộ gen người,”
Viện nghiên cứu bộ gen người quốc gia, ngày 1 tháng 11 năm 2021, www.genome.gov/
about-genomics/fact-sheets/Sequencing-Human-Genome-cost ; và Elizabeth Pennisi,
“Một bộ gen trị giá 100 đô la? Trình tự DNA mới có thể là 'công cụ thay đổi cuộc
chơi' cho Sinh học, Y học,” Khoa học, ngày 15 tháng 6 năm 2022, www.science.org/
content/article/100-genome-new-dna-sequencers-could-be-game-changer -sinh học-y học.

Tức là giá đã giảm Azhar, lũy thừa, 41.
Sau bài báo CRISPR đầu tiên , Jian-Feng Li và cộng sự, “Chỉnh sửa bộ gen qua
trung gian tái tổ hợp đa tổ hợp và tương đồng ở Arabidopsis và Nicotiana
benthamiana bằng cách sử dụng RNA và Cas9,” Công nghệ sinh học tự nhiên, ngày
31 tháng 8 năm 2013, www.nature.com/các bài báo /nbt.2654.
Các lĩnh vực như chỉnh sửa RNA Sara Reardon, “Bước sang một bên CRISPR,
Chỉnh sửa RNA đang thành công,” Nature, ngày 4 tháng 2 năm 2020, www.nature.com/
article/d41586-020-00272-5 .
Các kỹ thuật mới như Craspase Chunyi Hu và cộng sự, “Craspase là Protease
được kích hoạt bằng RNA, được hướng dẫn bằng CRISPR RNA,” Khoa học, ngày
25 tháng 8 năm 2022, www.science.org/doi/10.1126/science.add5064.
Các trường hợp sử dụng CRISPR đang tăng lên gấp bội. Michael Le Page, “Ba
người mắc bệnh di truyền được điều trị thành công bằng CRISPR,”
Nhà khoa học mới, ngày 12 tháng 6 năm 2020, www.newscientist.com/article/
2246020-two-people-with-inherited-diseases-successively- Treatment-with-
crispr; Jie Li và cộng sự, “Cà chua tăng cường sinh học cung cấp con đường
mới để có đủ vitamin D,” Nature Plants, ngày 23 tháng 5 năm 2022,
www.nature.com/articles/s41477-022-01154-6.
Trong tương lai, nó có thể cung cấp cho Mohamed Fareh, “Được lập trình lại
CRISPR-Cas13b ngăn chặn sự nhân lên của SARS-CoV-2 và
Phá vỡ lối thoát tương hỗ của nó thông qua khả năng chịu đựng không phù hợp,”
Thiên nhiên, ngày 13 tháng 7 năm 2021, www.nature.com/articles/s41467-021-24577-
9; “CRISPR đang thay đổi nghiên cứu và điều trị ung thư như thế nào”
Viện Ung thư Quốc gia, ngày 27 tháng 7 năm 2020, www.cancer.gov/news-events/cancer-
currents-blog/2020/crispr-cancer-research- Treatment;
Zhihao Zhang và cộng sự, “Cập nhật về chỉnh sửa gen dựa trên CRISPR trong
Liệu pháp điều trị HIV-1/AIDS,” Virus học Sinica, 2022, Tháng Hai.
www.sciencedirect.com/science/article/pii/S1995820X22000177;
Giulia Maule và cộng sự, “Liệu pháp gen điều trị bệnh xơ nang: Tiến bộ và
Những thách thức của việc chỉnh sửa bộ gen”, Tạp chí quốc tế về phân tử
Khoa học, tháng 6 năm 2020, www.ncbi.nlm.nih.gov/pmc/articles/

PMC7313467.
Những điều này sẽ tạo ra cây trồng Raj Kumar Joshi, “Hạn hán kỹ thuật
Tính chống chịu ở thực vật thông qua chỉnh sửa bộ gen CRISPR/Cas,” 3
2020,
Công nghệ sinh học, tháng 9 www.ncbi.nlm.nih.gov/pmc/articles/
PMC7438458; Muhammad Rizwan Javed và cộng sự, “Tình hình hiện tại của
Sản xuất nhiên liệu sinh học và cải tiến nó bằng CRISPR/Cas9-Mediated
Kỹ thuật bộ gen của tế bào vi sinh vật,” Nghiên cứu vi sinh,

Tháng 2 năm 2019, www.sciencedirect.com/science/article/pii/
S0944501318308346.
Ngày nay các công nghệ như CRISPR Nessa Carey, Hacking the Code
của cuộc sống: Chỉnh sửa gen sẽ viết lại tương lai của chúng ta như thế nào (London: Icon
Sách, 2019), 136.
Bây giờ bạn có thể mua một chiếc bàn. Xem ví dụ:
kilobaser.com/shop.

Giờ đây, họ có thể in hàng triệu bản Yiren Lu, “The Gene Synt tổng hợp
Revolution,” New York Times, ngày 24 tháng 11 năm 2021, www.nytimes.com/
2021/11/24/magazine/gene-synthesis.html.
The London DNA Foundry “Các phòng thí nghiệm robot cho nghiên cứu di truyền
tốc độ cao đang gia tăng,” Economist, ngày 1 tháng 3 năm 2018,
www.economist.com/science-and-technology/2018/03/01/robotic-labs-for-
nghiên cứu-di truyền tốc độ cao đang trên đà phát triển.
Các công ty như DNA Script Bruce Rogers, “Bộ tập lệnh DNA để đưa máy in
DNA đầu tiên trên thế giới ra thị trường,” Forbes, ngày 17 tháng 5 năm
2021, www.forbes.com/sites/brucerogers/2021/05/17/dna-script-set -đưa-
máy in-dna-đầu tiên trên thế giới ra thị trường.
Hơn nữa, các kỹ thuật mới Michael Eisenstein, “Tổng hợp DNA enzyme bước
vào giai đoạn mới,” Sinh học tự nhiên, ngày 5 tháng 10 năm 2020,
Tổng hợp tất cả lại, Synbio không chỉ sử dụng phương pháp tổng hợp DNA mà
còn sử dụng sự hiểu biết ngày càng tăng về cách bật và tắt gen, cùng với
nguyên tắc kỹ thuật trao đổi chất, nhờ đó tế bào có thể được khuyến khích
tạo ra các chất mong muốn.
Theo lời của kỹ sư sinh học Stanford Drew Endy, “Endy:Research,”

OpenWetWare, ngày 4 tháng 8 năm 2017, openwetware.org/ wiki/Endy:Research.

Năm 2010, một nhóm do Craig Venter dẫn đầu “Tổng hợp tự sao chép đầu tiên
Tế bào Vi khuẩn,” JCVI, www.jcvi.org/research/first-self-replicating-synthetic-
bacteria-cell.
Chỉ ba năm sau Jonathan E. Venetz và cộng sự, “Hóa chất

Tổng hợp viết lại bộ gen của vi khuẩn để đạt được thiết kế
Tính linh hoạt và chức năng sinh học,” PNAS, ngày 1 tháng 4 năm 2019,
www.pnas.org/doi/full/10.1073/pnas.1818259116.
Giờ đây, Hiệp hội GP-write toàn cầu Xem Hiệp hội GP-write,
Trung tâm Kỹ thuật
của Xuất
Sinh sắc
học, vì
Engineeringbiologycenter.org/gp-write-consortium.
Sử dụng gen tạo ra các protein phát hiện ánh sáng José-Alain Sahel và cộng sự,
“Phục hồi một phần chức năng thị giác ở bệnh nhân mù sau
Liệu pháp Quang học,” Y học Tự nhiên, ngày 24 tháng 5 năm 2021,
Kỹ sư trị liệu bằng tế bào T của CAR đã thiết kế “CureHeart—một phương pháp chữa trị cho
Bệnh cơ tim di truyền,” Tổ chức Tim mạch Anh,
www.bhf.org.uk/what-we-do/our-research/cure-heart; Quốc gia

Viện Ung thư, “Liệu pháp tế bào T CAR,” Viện Y tế Quốc gia,
www.cancer.gov/publications/dictionaries/cancer-terms/def/car-t-cell-therapy.
Lĩnh vực sinh học hệ thống Xem ví dụ Astrid M. Vicente et

cộng sự, “Y học cá nhân hóa sẽ thay đổi hoạt động chăm sóc sức khỏe như thế nào vào năm 2030:
Tầm nhìn ICPerMed,” Tạp chí Y học Dịch thuật, ngày 28 tháng 4 năm 2020,
Translational-medicine.biomedcentral.com/articles/10.1186/s12967-020-02316-w .
Nhà khoa học trưởng của nó, Richard Klausner Antonio Regalado, “Các nhà khoa
học muốn làm bạn trẻ lại như thế nào,” MIT Technology Review, ngày 25 tháng 10
năm 2022, www.technologyreview.com/2022/10/25/1061644/how-to-be- trẻ lại.
Phương pháp thử nghiệm này nhằm mục đích Jae-Hyun Yang và cộng sự, “Mất thông
tin biểu sinh do nguyên nhân gây lão hóa ở động vật có vú,” Cell, ngày 12 tháng
1 năm 2023, www.cell.com/cell/fulltext/S0092-8674(22)01570 -7.
Một thế giới nơi cuộc sống kéo dài . Ví dụ, hãy xem David A. Sinclair và Matthew
D. LaPlante, Lifespan: Why We Age—and Why We Don't Have To (New York: Atria
Books, 2019).
Công trình ban đầu gợi ý về trí nhớ. Ví dụ, hãy xem nghiên cứu của Harvard về
trí nhớ: “Các nhà nghiên cứu xác định mạch thần kinh và 'công tắc' di truyền
giúp duy trì độ chính xác của trí nhớ,” Viện Tế bào gốc Harvard, ngày 12 tháng
3 năm 2018, hsci.harvard.edu/news/researchers -xác định-mạch thần kinh-và-di
truyền-chuyển đổi-duy trì-bộ nhớ-độ chính xác.
Kêu gọi tạm dừng John Cohen, “Lời kêu gọi mới cấm sử dụng gen đã được chỉnh sửa
Trẻ sơ sinh chia rẽ các nhà sinh vật học,” Science, 13/03/2019,
www.science.org/content/article/new-call-ban-gene-edited-babies-divides-
biologists.
Phương pháp của Arnold gấp mười lăm lần SB Jennifer Kan và cộng sự, “Sự
phát triển có định hướng của Cytochrome C để hình thành liên kết Carbon-
Silicon: Đưa Silicon vào cuộc sống,” Khoa học, ngày 25 tháng 11 năm 2016,
www.science.org/doi/10.1126/science .aah6219.
Loại sinh học tổng hợp này đang giúp ích cho James Urquhart, “Vi khuẩn được
lập trình lại biến Carbon Dioxide thành hóa chất trên quy mô công nghiệp,”
Chemistry World, ngày 2 tháng 3 năm 2022, www.chemistryworld.com/news/
reprogrammed-bacter-turns-carbon-dioxide-into -hóa chất ở quy mô công
nghiệp/4015307.article.
“Điều gì sẽ xảy ra nếu chúng ta có thể phát triển” Elliot Hershberg, “Nguyên tử là địa phương,”
Century of Bio, ngày 7 tháng 11 năm 2022, Centuryofbio.substack.com/p/atoms-

are-local.
Về mặt lý thuyết, toàn bộ “Tương lai của việc lưu trữ dữ liệu DNA” trên thế
giới, Viện nghiên cứu chính sách Potomac, tháng 9 năm 2018,
potomacinstitute.org/images/studies/
Future_of_DNA_Data_Storage.pdf.
McKinsey ước tính rằng Viện Toàn cầu McKinsey, “Cuộc cách mạng sinh học:
Những đổi mới làm thay đổi nền kinh tế, xã hội và cuộc sống của chúng ta,”
McKinsey & Company, ngày 13 tháng 5 năm 2020, www.mckinsey.com/
các ngành công nghiệp/khoa học đời sống/sự hiểu biết sâu sắc của chúng ta/cách mạng sinh
học-đổi mới-chuyển đổi-nền kinh tế-xã hội-và-cuộc sống của chúng ta.
Nếu bạn sử dụng phương pháp tính toán mạnh mẽ truyền thống DeepMind,
“AlphaFold: Giải pháp cho thách thức lớn 50 tuổi trong sinh học,”
Nghiên cứu DeepMind, ngày 20 tháng 11 năm 2020, www.deepmind.com/blog/
alphafold-a-solution-to-a-50-year-old-grand-challenge-in-biology.
Mohammed AlQuraishi, một nhà nghiên cứu nổi tiếng Mohammed AlQuraishi,
“AlphaFold @ CASP13: 'Chuyện gì vừa xảy ra?', Một số suy nghĩ về một vũ trụ
bí ẩn, ngày 9 tháng 12 năm 2018, moalquraishi.wordpress.com/2018/12/09/
alphafold -casp13-chuyện-vừa-xảy ra.
Một tiêu đề đã nói lên tất cả Tanya Lewis, “Một trong những vấn đề lớn nhất
trong sinh học cuối cùng đã được giải quyết,” Scientific American, ngày 31
tháng 10, www.scientificamerican.com/article/one-of-the-
biggest- 2022, problem-in -sinh học-cuối cùng đã được giải quyết.
Kết quả là một vụ nổ Ewen Callaway, “Điều gì tiếp theo cho AlphaFold và Cuộc
cách mạng gấp protein AI,” Nature, ngày 13 tháng 4 năm 2022, www.nature.com/
articles/d41586-022-00997-5.
DeepMind đã tải lên khoảng 200 triệu Madhumita Murgia, “Nghiên cứu DeepMind
phá vỡ cấu trúc của hầu hết mọi loại protein đã biết,” Financial Times, ngày
28 tháng 7 năm 2022, www.ft.com/content/6a088953-66d7-48db-b61c-79005a0a351a ;
DeepMind, “AlphaFold
Tiết lộ cấu trúc của vũ trụ Protein,” Nghiên cứu DeepMind, ngày 28 tháng 7 năm 2022,
www.deepmind.com/blog/alphafold-reveals-the-structure-of-the-protein-universe.
Năm 2019, Kelly Servick đã phẫu thuật cấy ghép các điện cực , “Lần đầu tiên, việc cấy
ghép não cho phép người đàn ông bị liệt hoàn toàn nói ra câu 'Tôi yêu đứa con trai
tuyệt vời của tôi'”, Khoa học, ngày 22 tháng 3 năm 2022, www.science.org/content/article/
first -não-cấy ghép-cho phép-người đàn ông-hoàn toàn-tê liệt-đánh vần-ra-suy
nghĩ-tôi-yêu-con trai-ngầu-của tôi.
Các nhà khoa học tại một công ty khởi nghiệp có tên Cortical Labs Brett J. Kagan và
cộng sự, “ Các tế bào thần kinh trong ống nghiệm học hỏi và thể hiện khả năng cảm nhận
khi được thể hiện trong thế giới trò chơi mô phỏng,” Neuron, ngày 12 tháng 10 năm
2022, www.cell.com/ nơ-ron /fulltext/S0896-6273(22)00806-6.

chương 6: làn sóng rộng lớn hơn
“Robot di động hoàn toàn tự động đầu tiên” của Amazon Mitchell Clark,
“Amazon công bố Robot kho hàng di động hoàn toàn tự động đầu tiên,”
Verge, ngày 21 tháng 6 năm 2022, www.theverge.com/2022/6/21/ 23177756/
amazon-warehouse-robots- proteus-tự động-giỏ hàng-giao hàng.
Sparrow của Amazon là Dave Lee đầu tiên , “Amazon ra mắt Robot kho hàng
mới có thể làm công việc của con người,” Financial Times, Tháng 11
2022, www.ft.com/content/c8933d73-74a4-43ff-8060- 10,
7ff9402eccf1.
Robot đã thực hiện các ca phẫu thuật phức tạp James Gaines, “Quá khứ,
hiện tại và tương lai của phẫu thuật robot,” Tạp chí Smithsonian, ngày
15 tháng 9 năm 2022, www.smithsonianmag.com/innovation/the-past-hiện tại-
and-future-of -robot-phẫu thuật-180980763.
Họ đã xây dựng một nhóm “Robot trợ giúp cho một ngày tốt đẹp hơn”,
Robot mỗi ngày, dailyrobots.com.
Với quần thể ong mật Chelsea Gohd, “Walmart Has Patented Autonomous
Robot Bees,” Diễn đàn Kinh tế Thế giới, ngày 19 tháng 3 năm 2018,
www.weforum.org/agenda/2018/03/autonomous-robot-bees-are-being-patented-
by- walmart.
Khi chi phí giảm, Báo cáo Chỉ số Trí tuệ Nhân tạo năm 2021,
aiindex.stanford.edu/report.
Sở cảnh sát đã xử lý bom Sara Sidner và Mallory Simon, “Robot, chất nổ đã hạ

gục tay súng bắn tỉa Dallas theo cách chưa từng có như thế nào,” CNN, ngày
12 tháng 7 năm 2016, cnn.com/2016/07/12/us/ dallas-police- robot-c4-explosives/
index.html.
Năm 2019, Google đã công bố Elizabeth Gibney, “Xin chào Thế giới lượng tử!
Google xuất bản Tuyên bố về quyền lực tối cao lượng tử mang tính bước ngoặt,”
Thiên nhiên, ngày 23 tháng 10 năm 2019, www.nature.com/articles/
d41586-019-03213- z; Frank Arute và cộng sự, “Ưu thế lượng tử sử dụng bộ xử

lý siêu dẫn có thể lập trình,” Thiên nhiên, Tháng 10 năm
23, 2019,
Làm lạnh đến nhiệt độ lạnh hơn Neil Savage, “Thực hành với Máy tính lượng
tử của Google,” Scientific American, ngày 24 tháng 10 năm 2019,
www.scientificamerican.com/article/hands-on-with-googles-quantum-computer.
Để lưu trữ thông tin tương đương Gideon Lichfield, “Bên trong cuộc đua chế
tạo máy tính lượng tử tốt nhất trên trái đất,” MIT Technology Review, ngày
26 tháng 2 năm 2022, www.technologyreview.com/2020/02/26/916744/quantum-
computer-race -ibm-google.
Điểm thu hút chính của nó là mỗi Matthew Sparkes, “IBM tạo ra máy tính lượng
tử siêu dẫn lớn nhất từ trước đến nay,” Nhà khoa học mới, ngày 15 tháng 11
năm 2021, www.newscientist.com/article/2297583-ibm-creates-large-ever-
superconducting-quantum- máy tính.

Quả thực, một con số tương đối nhỏ Đối với một số nhiệm vụ nhất định, ở mức độ nào đó.
Charles Choi, “Bước nhảy lượng tử trong tính toán lượng tử?”, Scientific American,
ngày 25 tháng 10 năm 2017, www.scientificamerican.com/article/quantum-leaps-in-quantum-
computing .
Năng lượng tái tạo sẽ trở thành Camilla Hodgson, “Năng lượng mặt trời dự kiến sẽ
vượt than trong 5 năm tới, IEA cho biết,” Financial Times, ngày 10 tháng 12 năm 2022,
www.ft.com/content/98cec49f-6682-4495-b7be-793bf2589c6d.
Năm 2000, chi phí năng lượng mặt trời “Giá mô-đun quang điện mặt trời”, Thế giới dữ
liệu của chúng ta, ourworldindata.org/grapher/solar-pv-prices.
Với nguồn vốn tư nhân đáng kể Tom Wilson, “Hợp nhất hạt nhân: Từ khoa học viễn tưởng
đến 'Khi nào, không phải nếu',” Financial Times, ngày 17 tháng 12 năm 2022, www.ft.com/
content/65e8f125-5985-4aa8-a027- 0c9769e764ad.
Khi được mở rộng quy mô, nó có thể cung cấp năng lượng cho Tesla Eli Dourado, “ Mùa
xuân của công nghệ nano,” Works in Progress, ngày 12 tháng 10 năm 2022,
www.worksinprogress.co/issue/nanotechnologys-spring .

Chương 7: Bốn đặc điểm của làn sóng sắp tới
Thay vào đó, một đơn vị khoảng ba mươi Julian Borger, “Những người điều
khiển máy bay không người lái đã chặn đoàn xe của Nga tiến tới Kyiv,”
Guardian, ngày 28 tháng 3 năm 2022, www.theguardian.com/world/2022/mar/28/
the-drone-operators- người đã chặn-xe bọc thép của Nga đang hướng tới
Kiev.
Một nhóm gồm hàng nghìn thành viên phi quân sự Marcin Wywał, “Chiến tranh ở
Ukraine. Trí tuệ nhân tạo đang giết chết người Nga như thế nào,” Onet, ngày
13 tháng 7 năm 2022, www.onet.pl/informacje/onetwiadomosci/rozwiazali-problem-
armii-ukrainy-ich-pomysl-okazal-sie-dla-rosjan-zabojczy/
pkzrk0z,79cfc278 .
Một tên lửa chính xác trên Patrick Tucker thông thường , “AI đã học được từ
cuộc chiến của Nga ở Ukraine, DOD cho biết,”
Defense One, ngày 21 tháng 4 năm 2022, www.defenseone.com/technology/2022/04/
ai-already-learning-russias-war-ukraine-dod-says/365978 .
Các lực lượng của Mỹ, Anh và Châu Âu “Theo dõi hỗ trợ Ukraine,” Viện Kinh
tế Thế giới Kiel, tháng 12 năm 2022, www.ifw-kiel.de/index.php?id=17142.
Theo lời của chuyên gia bảo mật Audrey Kurth Cronin, Quyền lực cho nhân dân:
Đổi mới công nghệ mở đang trang bị cho những kẻ khủng bố ngày mai như thế
nào (New York: Nhà xuất bản Đại học Oxford, 2020), 2.

Công ty DJI Scott Gilbertson có trụ sở tại Thâm Quyến, “Đánh giá: DJI Phantom 4,”
Wired, ngày 22 tháng 4 năm 2016, www.wired.com/2016/04/review-dji-phantom-4.
Chống lại các cuộc tấn công khó khăn Cronin, Quyền lực cho nhân dân, 320; Derek
Hawkins, “Một 'Đồng minh' của Hoa Kỳ đã bắn một tên lửa Patriot trị giá 3 triệu đô
la vào một chiếc máy bay không người lái trị giá 200 đô la. Tiết lộ nội dung: The
Missile Won,” Washington Post, ngày 17 tháng 3 năm 2017, www.washingtonpost.com/news/
morning-mix/wp/2017/03/17/ aus-ally-fired-a-3-million-patriot-missile -at-a-200-drone-

spoiler-tên lửa-thắng.
Nếu nó giữ vững, trong mười năm Azhar, số mũ, 249.
Bên ngoài thế giới mã không trọng lượng, chẳng hạn, hãy xem Michael Bhaskar, Human
Frontiers: The Future of Big Ideas in a Age of Small Thought (Cambridge, Mass.: MIT
Press, 2021); Tyler Cowen, Sự trì trệ vĩ đại: Nước Mỹ đã ăn hết những trái cây treo
thấp của lịch sử hiện đại như thế nào, bị bệnh và sẽ (cuối cùng) cảm thấy tốt hơn
(New York: Dutton, 2011); và Robert Gordon, Sự trỗi dậy và sụp đổ của sự tăng trưởng
của Mỹ: Tiêu chuẩn sống của Hoa Kỳ kể từ Nội chiến (Princeton, NJ: Nhà xuất bản Đại
học Princeton, 2017), cùng nhiều cuốn khác.
César Hidalgo lập luận về César Hidalgo, Tại sao thông tin phát triển: Sự tiến hóa
của trật tự, từ nguyên tử đến kinh tế (London: Allen Lane, 2015).

AI đã giúp tìm ra Neil Savage mới , “Máy học cách khai quật vật liệu mới,”
Nature, ngày 30 tháng 6 năm 2021, www.nature.com/articles/d41586-021-01793-3 .
Ví dụ: các nhà khoa học đã sử dụng Andrij Vasylenko và cộng sự, “Lựa chọn nguyên
tố để khám phá chất rắn vô cơ kết tinh được hướng dẫn bởi học máy không giám
sát của hóa học khám phá thực nghiệm,” Nature Communications, ngày 21 tháng 9
năm 2021, www.nature.com/articles/s41467- 021-25343-7.
AI đã giúp thiết kế và xây dựng Matthew Greenwood, “Siêu xe được tạo ra bằng
cách sử dụng In 3D, AI và Robotics,” Engineering.com, ngày 23 tháng 6 năm 2021,
www.engineering.com/story/hypercar-created-using-3d-printing-ai -và-người máy.
Giờ đây, các mô phỏng sẽ tăng tốc độ cho Elie Dolgin, “Mô hình máy tính có thể
trở thành chìa khóa cho vắc xin COVID tốt hơn không?”, Nature, ngày 5 tháng 4
năm 2022, www.nature.com/articles/d41586-022-00924-8.
Các công cụ tính toán giúp tự động hóa Anna Nowogrodzki, “Các công cụ thiết kế
tự động đang thay đổi sinh học tổng hợp,”

Thiên nhiên, ngày 10 tháng 12 năm 2018, www.nature.com/articles/d41586-018-07662-
TRONG.
Công nghệ lượng tử, nhiều triệu Vidar, “Máy tính lượng tử của Google nhanh hơn
khoảng 158 triệu lần so với Siêu máy tính nhanh nhất thế giới,” Medium, ngày 28
tháng 2 năm 2021, Medium.com/

dự đoán/googles-quantum-computer-is-about-158-million-lần-nhanh hơn thế giới-s-
nhanh nhất-siêu máy tính-36df56747f7f.
Khám phá các loại thuốc mới Jack W. Scannell và cộng sự, “Chẩn đoán sự suy giảm
hiệu quả R&D dược phẩm,” Nature Reviews Drug Discovery, ngày 1 tháng 3 năm
2012, www.nature.com/articles/nrd3681.
Tuổi thọ trung bình đã chững lại Patrick Heuveline, “Sự suy giảm tuổi thọ toàn
cầu và quốc gia: Đánh giá cuối năm 2021,”
Tạp chí Dân số và Phát triển số 48, số 1. 1 (tháng 3 năm 2022),
onlinelibrary.wiley.com/doi/10.1111/padr.12477. Tuy nhiên, những sự sụt giảm
này là nhờ vào những cải thiện đáng kể trong dài hạn.
Tiến bộ trong các tình trạng như “Thử nghiệm thuốc thất bại” của bệnh Alzheimer
Cơ quan nghiên cứu bệnh Alzheimer ở Anh, www.alzheimersresearchuk.org/blog-tag/
drug-trials/failed-drug-trials.
Các kỹ thuật AI có thể tìm kiếm thông qua Michael S. Ringel và cộng sự, “Phá vỡ
định luật Eroom”, Nature Reviews Drug Discovery, ngày 16 tháng 4 năm 2020,
www.nature.com/articles/d41573-020-00059-3.
Vào năm 2020, hệ thống AI Jonathan M. Stokes, “Phương pháp tiếp cận học tập
sâu để khám phá kháng sinh,” Cell, ngày 20 tháng 2 năm 2020, www.cell.com/cell/
fulltext/S0092-8674(20)30102-1.

Các công ty khởi nghiệp như Exscientia “Exscientia và Sanofi Thiết lập sự hợp tác
nghiên cứu chiến lược để phát triển quy trình sản xuất thuốc được thiết kế chính
xác dựa trên AI,” Sanofi, ngày 7 tháng 1 năm 2022 , www.sanofi.com/en/media-room/
press-releases/ 2022/2022-01-07-06-00-00-2362917.
Cho đến nay, có mười tám tài sản lâm sàng Nathan Benaich và Ian Hogarth, Báo cáo
tình trạng AI năm 2022, ngày 11 tháng 10 năm 2022, www.stateof.ai.
Trong sáu giờ, nó đã xác định được Fabio Urbina và cộng sự, “Sử dụng kép khám
phá thuốc dựa trên trí tuệ nhân tạo,” Nature Machine Intelligence, ngày 7 tháng 3
năm 2022, www.nature.com/articles/s42256-022-00465-9.
Khi ra mắt, PlayStation 2 K. Thor Jensen, “20 năm sau: Mối lo ngại về bảng điều
khiển được vũ khí hóa gần như đánh chìm PS2 như thế nào,”
PCMag, ngày 9 tháng 5 năm 2020, www.pcmag.com/news/20-years-later-how-concerns-
about-weaponized-consoles-almost-sunk-the-ps2; Associated Press,
“Playstation2 công nghệ cao của Sony sẽ yêu cầu giấy phép xuất khẩu quân sự,” Los
Angeles Times, ngày 17 tháng 4 năm 2000, www.latimes.com/archives/la-xpm-2000-
apr-17-fi-20482-story.html .
Một thuật ngữ thích hợp hơn Để biết thêm về thuật ngữ “đa dụng”, ví dụ, hãy xem
Cronin, Power to the People.
Bây giờ là các hệ thống đơn lẻ như Scott Reed và cộng sự của DeepMind , “A
Generalist Agent,” DeepMind, ngày 10 tháng 11 năm 2022, www.deepmind.com/
publications/a-generalist-agent .

Nghiên cứu nội bộ về Báo cáo kỹ thuật GPT-4 @GPT-4, OpenAI, ngày 14 tháng 3
năm 2023, cdn.openai.com/papers/gpt-4.pdf. Xem mobile.twitter.com/
michalkosinski/status/1636683810631974912 cho một trong những thí nghiệm đầu
tiên.
Nghiên cứu ban đầu thậm chí còn tuyên bố Sébastien Bubeck và cộng sự, “Tia
lửa trí tuệ nhân tạo tổng quát: Những thử nghiệm ban đầu với GPT-4,” arXiv,
ngày 27 tháng 3 năm 2023, arxiv.org/abs/2303.12712.
AI đang tìm cách Alhussein Fawzi và cộng sự, “Khám phá các thuật toán mới
với AlphaTensor,” DeepMind, ngày 5 tháng 10 năm 2022, www.deepmind.com/blog/
discovering-novel-algorithms-with-alphatensor.
Nhà nghiên cứu AI Stuart Russell Stuart Russell, Tương thích với con người:
AI và vấn đề kiểm soát (London: Allen Lane, 2019).
Thật vậy, có một trường hợp chắc chắn là Manuel Alfonseca và cộng sự, “Không
thể kiềm chế được siêu trí tuệ: Bài học từ Lý thuyết tính toán,” Tạp chí
Nghiên cứu Trí tuệ Nhân tạo, ngày 5 tháng 1 năm 2021, jair.org/index.php/jair/
article/view /12202; Jaime Sevilla và John Burden, “Không thể ngăn chặn phản
ứng đối với siêu trí tuệ: Bài học từ lý thuyết tính toán,” Trung tâm nghiên
cứu rủi ro tồn tại, ngày 25 tháng 2 năm 2021, www.cser.ac.uk/news/Response-
superintelligence-contained .

chương 8: động lực không thể ngăn cản
Thậm chí vài ngày trước cuộc thi công khai đầu tiên, chẳng hạn, hãy xem Cade
Metz, Genius Makers: The Mavericks Who Brought AI to Google, Facebook and the
World (London: Random House Business, 2021), 170.
Hơn 280 triệu người Google, “Hội nghị thượng đỉnh về cờ vây trong tương lai:
23 tháng 5–27 tháng 5, Wuzhen, Trung Quốc,” Sự kiện của Google, events.google.com/
alphago2017 [không hoạt động].
Đây là một cuộc khủng hoảng đối với nước Mỹ Paul Dickson, “Tác động của Sputnik
đối với nước Mỹ,” Nova, PBS, ngày 6 tháng 11 năm 2007, www.pbs.org/wgbh/nova/
article/sputnik-impact-on-america .
Theo lời của Tập Cận Bình Lo De Wei, “Toàn văn bài phát biểu của Tập Cận Bình
tại Đại hội Đảng Trung Quốc,” Bloomberg, ngày 18 tháng 10 năm 2022,
www.bloomberg.com/news/articles/2022-10-18/full-text -of-xi-jinping-s-speech-at-
china-đại hội đảng lần thứ 20-2022.
Mô hình từ trên xuống của Trung Quốc, chẳng hạn, xem Nigel Inkster, The Great
Deupling: China, America and the Struggle for Technological Supremacy (London:
Hurst, 2020).
“Đến năm 2030, các lý thuyết AI của Trung Quốc” Graham Webster và cộng sự, “Bản
dịch đầy đủ: 'Kế hoạch phát triển trí tuệ nhân tạo thế hệ mới' của Trung Quốc,'"
DigiChina, Đại học Stanford, ngày 1 tháng 8 năm 2017,

digichina.stanford.edu/work/full-translation-chinas-new-thế hệ-artificial-
intelligence-development-plan-2017.
Quả thực, Thanh Hoa xuất bản thêm Benaich và Hogarth, State of AI; Neil
Savage, “Cuộc đua lên vị trí dẫn đầu trong số các nhà lãnh đạo thế giới về
trí tuệ nhân tạo,” Nature Index, ngày 9 tháng 12 năm 2020, www.nature.com/
articles/d41586-020-03409-8 ; “Đại học Thanh Hoa có thể sớm đứng đầu Liên
đoàn Thế giới về Nghiên cứu Khoa học,” Economist, ngày 17 tháng 11 năm
2018, www.economist.com/china/2018/11/17/tsinghua-university-may-soon-
top-the-world- giải đấu-trong-khoa học-nghiên cứu.
Trung Quốc có Sarah O'Meara đang phát triển và ấn tượng , “Trung Quốc sẽ
dẫn đầu thế giới về AI vào năm 2030 chứ?”, Nature, ngày 21 tháng 8 năm
2019, www.nature.com/articles/d41586-019-02360-7; Akira Oikawa và Yuta
Shimono, “Trung Quốc vượt qua Mỹ trong nghiên cứu AI”, Nikkei Asia, ngày
10 tháng 8 năm 2021, asia.nikkei.com/Spotlight/Datawatch/China-overtakes-US-

in-AI-research.
Về khối lượng nghiên cứu AI Daniel Chou, “Đếm nghiên cứu AI: Khám phá kết
quả nghiên cứu AI bằng các nguồn tiếng Anh và tiếng Trung,” Trung tâm An
ninh và Công nghệ mới nổi, tháng 7 năm 2022, cset.georgetown.edu/publication/
counting-ai -nghiên cứu.
Trung Quốc đã vượt qua Remco Zwetsloot của Hoa Kỳ , “Trung Quốc đang nhanh
chóng vượt xa tốc độ tăng trưởng tiến sĩ STEM của Hoa Kỳ,” Trung tâm An
ninh và Công nghệ mới nổi, tháng 8 năm 2021, cset.georgetown.edu/publication/
china-is-fast-outpacing-us-stem- phd-tăng trưởng.

Trong những năm đầu của thế kỷ XXI, Graham Allison và cộng sự, “Sự cạnh
tranh công nghệ lớn: Trung Quốc vs Mỹ,” Trung tâm Belfer của Trường
Harvard Kennedy, tháng 12 năm 2021 , www.belfercenter.org/sites/default/
files/ GreatTechRivalry_ChinavsUS_211207.pdf.
Theo xu hướng hiện tại , Tân Hoa Xã, “Trung Quốc cấp phép khoảng 700.000
bằng sáng chế vào năm 2021: Báo cáo,”XinhuaNet, ngày 8 tháng 1 năm 2021,
tiếng Anh.news.cn/20220108/ded0496b77c24a3a8712fb26bba390c3/ c.html;
“Biểu đồ thống kê bằng sáng chế của Hoa Kỳ, Năm dương lịch 1963–2020,”
Văn phòng Bằng sáng chế và Thương hiệu Hoa Kỳ, tháng 5 năm 2021,
www.uspto.gov/web/office/ac/ido/oeip/taf/us_stat.htm . Tuy nhiên, số liệu
của Hoa Kỳ là từ năm 2020. Điều quan trọng cần nói là các bằng sáng chế có
giá trị cao cũng đang tăng nhanh: Hội đồng Nhà nước Cộng hòa Nhân dân
Trung Hoa, “China Sees Growing Number of Invention Patents,” Tân Hoa Xã,
Tháng 1. 2022, tiếng Anh.www.gov.cn/statecouncil/ministries/202201/12/
content_WS61deb7c8c6d09c94e48a3883.html.
Nó có nhiều hơn Joseph Hincks của thế giới , “Trung Quốc hiện có nhiều
siêu máy tính hơn bất kỳ quốc gia nào khác”, Time, ngày 14 tháng 11 năm
2017, time.com/5022859/china-most-supercomputers-world.
Tập Cận Bình đã gọi rõ ràng Jason Douglas, “Các nhà máy của Trung Quốc
tăng tốc phát triển robot khi lực lượng lao động bị thu hẹp,” Wall Street
Journal, ngày 18 tháng 9 năm 2022, www.wsj.com/articles/chinas-factories-

accelerate-robotics-push-as-workforce -thu nhỏ-11663493405.
Vào năm 2014, Trung Quốc đã đưa ra số liệu tương tự mà Allison và cộng sự đưa ra, “Sự cạnh tranh
công nghệ lớn”.

Một năm sau, người Trung Quốc xây dựng Zhang Zhihao, “Liên kết lượng tử Bắc Kinh-Thượng
Hải một 'Kỷ nguyên mới',” China Daily USA, ngày 30 tháng 9 năm 2017, usa.chinadaily.com.cn/
china/2017-09/30/content_32669867. htm.
Họ đang đầu tư hơn 10 tỷ USD Amit Katwala, “Tại sao Trung Quốc lại hoàn hảo để trở thành
siêu cường về máy tính lượng tử,”
Wired, ngày 14 tháng 11 năm 2018, www.wired.co.uk/article/quantum-computing-china-us.
Các nhà khoa học Hợp Phì thậm chí còn tuyên bố đã xây dựng Han-Sen Zhong và cộng sự, “Lợi
thế tính toán lượng tử bằng cách sử dụng Photon,” Khoa học, ngày 3 tháng 12 năm 2020,
www.science.org/doi/10.1126/science.abe8770.
Nhà nghiên cứu chính của Micius Trích dẫn trong Amit Katwala, Máy tính lượng tử (London:
Random House Business, 2021), 88.
Trung Quốc đã đi trước Allison và cộng sự trong “Sự cạnh tranh công nghệ lớn”.
“Chúng tôi không có cơ hội chiến đấu cạnh tranh” Katrina Manson, “Hoa Kỳ đã thua cuộc chiến
AI trước Trung Quốc, Giám đốc phần mềm Ex-Pentagon cho biết,” Financial Times, ngày 10
tháng 10 năm 2021, www.ft.com/content/f939db9a-40af- 4bd1-b67d-10492535f8e0.

“Công nghệ tiên tiến là vũ khí sắc bén” Trích trong Inkster, The Great Deupling, 193.
Hầu hết mọi quốc gia hiện nay Để biết thông tin chi tiết, hãy xem “Chiến lược và
chính sách AI quốc gia”, OECD.AI, oecd.ai/en/dashboards.
Vladimir Putin tin tưởng nhà lãnh đạo “Putin: Người dẫn đầu về nhân tạo
Trí tuệ sẽ thống trị thế giới,” CNBC, ngày 4 tháng 9 năm 2017, www.cnbc.com/2017/09/04/
putin-leader-in-artificial-intelligence-will-rule-world.html .
Tổng thống Pháp Emmanuel Macron Thomas Macaulay, “Giấc mơ của Macron về một siêu
hình châu Âu còn lâu mới trở thành hiện thực,”
Web tiếp theo, ngày 14 tháng 9 năm 2022, thenextweb.com/news/prospects-for-europes-
emerging-metaverse-sector-macron-vestager-meta.
An ninh, giàu có, uy tín “Pháp 2030”, Cơ quan nghiên cứu quốc gia, 2/2017 Ngày 27
tháng 1 năm 2023, anr.fr/en/france-2030/france-2030.
Đến năm 2030, nền kinh tế của nước này “Ấn Độ sẽ trở thành nền kinh tế trị giá 30
nghìn tỷ USD vào năm 2050: Gautam Adani,” Economic Times, ngày 22 tháng 4 năm 2022,
Economictimes.indiatimes.com/news/economy/indicators/india-to-be-a-30-trillion
-economy-by-2050-gautam-adani/articleshow/ 90985771.cms.
Theo đó, Ấn Độ đã thành lập Trisha Ray và Akhil Deo, “Những ưu tiên về chính sách
đối ngoại công nghệ cho Ấn Độ”, Washington International

Hiệp hội Thương mại, ngày 25 tháng 9 năm 2020, www.wita.org/atp-research/

tech-forign-policy-india.
Chúng ta đang sống trong thời đại Cronin, Quyền lực cho nhân dân.
Ví dụ: GitHub có Neeraj Kashyap, “Con đường dẫn tới 128 triệu kho lưu trữ
công cộng của GitHub,” Hướng tới khoa học dữ liệu, ngày 4 tháng 3 năm 2020,
hướng tớidatascience.com/githubs-path-to-128m-public-repositories-
f6f656ab56b1.
Dịch vụ ban đầu như vậy arXiv, “Giới thiệu về ArXiv,” arxiv.org/about.
Kho lớn “The General Index” của thế giới, Internet Archive, ngày 7 tháng 10
năm 2021, archive.org/details/GeneralIndex.
Chi tiêu R&D trên toàn thế giới “Nghiên cứu và Phát triển: Hoa Kỳ
Xu hướng và So sánh Quốc tế,” Trung tâm Thống kê Khoa học và Kỹ thuật Quốc
gia, ngày 28 tháng 4 năm 2022, ncses.nsf.gov/pubs/nsb20225 .
Riêng ngân sách R&D của Amazon Prableen Bajpai, “Những công ty nào chi tiêu
nhiều nhất cho nghiên cứu và phát triển (R&D)?”, Nasdaq, ngày 21 tháng 6 năm
2021, www.nasdaq.com/articles/which-companies-spend-the-most-in- nghiên cứu
và phát triển-rd-2021-06-21.

Alphabet, Apple, Huawei, Meta “Huawei bơm 22 tỷ USD vào R&D để chống lại các
lệnh trừng phạt của Hoa Kỳ,” Bloomberg News, ngày 25 tháng 4 năm 2022,
www.bloomberg.com/news/articles/2022-04-25/huawei-rivals-apple- các lệnh trừng
phạt meta-with-rd-chi tiêu để đánh bại; Jennifer Saba, “Apple có trong tay nhiều
nhiên liệu tăng trưởng nhất,” Reuters, ngày 28 tháng 10 năm 2021, www.reuters.com/
breakviews/apple-has-most-growth-fuel-hand-2021-10-28.
Chưa hết, đó còn là LeCun Metz, Genius Makers, 58 tuổi.
NVIDIA không phàn nàn Mitchell, Trí tuệ nhân tạo, 103.
Hai trăm năm mươi hành khách “Đầu tiên trên thế giới: Sự hình thành của Đường
sắt Liverpool và Manchester,” Bảo tàng Khoa học+Công nghiệp, ngày 20 tháng 12
năm 2018, www.scienceandindustrymuseum.org.uk/object-and-stories/making-the-
ganpool-và-manchester-đường sắt.
Năm năm sau, nó đã đưa ra Điều này và tài khoản rộng hơn được rút ra từ William
Quinn và John D. Turner, Boom and Bust: A Global History of Financial Bubbles
(Cambridge, Vương quốc Anh: Nhà xuất bản Đại học Cambridge, 2022).
Vào thời kỳ đỉnh cao, cổ phiếu đường sắt cũng như vậy.
Sự bùng nổ đường sắt những năm 1840 “Vẻ đẹp của bong bóng,”
Nhà kinh tế học, ngày 18 tháng 12 năm 2008, www.economist.com/christmas-specials/

18/12/2008/vẻ đẹp của bong bóng.
Carlota Perez nhìn thấy một Perez tương đương, Cuộc cách mạng công
nghệ và Vốn tài chính.
Khoa học phải được chuyển đổi Một tài liệu kinh tế sâu rộng xem xét
kinh tế vi mô của sự đổi mới, cho thấy quá trình này nhạy cảm và được
bao bọc trong các khuyến khích kinh tế như thế nào. Ví dụ, xem Lipsey,
Carlaw và Bekar, Chuyển đổi kinh tế để biết tổng quan.
GDP bình quân đầu người đã tăng Xem Angus Maddison, The World
Economic: A Millenarian Perspective (Paris: OECD Publications, 2001),
hoặc cập nhật hơn “GDP Per Capita, 1820 to 2018,” Our World in Data,
ourworldindata . org/grapher/gdp-per-capita-maddison-2020?yScale=log.
Hiện nay, trên toàn cầu, đây chính là Nishant Yonzan và cộng sự, “Dự báo tình trạng
nghèo đói cùng cực trên toàn cầu đến năm 2030: Chúng ta tiến gần đến mục tiêu 3% của
Ngân hàng Thế giới đến mức nào?”,” Blog Dữ liệu của Ngân hàng Thế giới, ngày 9 tháng 10
năm 2020, blogs.worldbank.org / opendata/projecting-global-extreme-poverty-2030-how-
close-are-we-world-banks-3-goal.
Vào thế kỷ 19, các phát minh Alan Greenspan và Adrian Wooldridge,
Capitalism in America: A History (London: Allen Lane, 2018), 15.

Máy khâu của Isaac Singer Ibid., 47.
Ở Đức, chẳng hạn như Charlie Giattino và Esteban Ortiz-Ospina, “Chúng ta

có đang làm việc nhiều hơn bao giờ hết không?”, Thế giới dữ liệu của chúng
ta, ourworldindata.org/working-more-than-ever.
Công nghệ cho đến nay vẫn là “Dữ liệu S&P 500” lớn nhất , Chỉ số S&P Dow
Jones, tháng 7 năm 2022, www.spglobal.com/spdji/en/indices/equity/sp-500/
#data.
Hàng trăm tỷ đô la Chỉ riêng trong năm 2021, hơn 600 tỷ đô la vốn mạo hiểm
đã được đầu tư trên toàn cầu, chủ yếu vào các doanh nghiệp công nghệ và
công nghệ sinh học, gấp 10 lần số tiền một thập kỷ trước đó. Xem Gené
Teare, “Tài trợ và sáng tạo kỳ lân vào năm 2021 đã phá vỡ mọi kỷ lục,”
Crunchbase News, ngày 5 tháng 1 năm 2022, news.crunchbase.com/business/
global-vc-funding-unicorns-2021-monthly-recap .
Trong khi đó, đầu tư vốn cổ phần tư nhân vào công nghệ cũng tăng vọt lên
hơn 400 tỷ USD vào năm 2021, cho đến nay là hạng mục lớn nhất.
Xem Laura Cooper và Preeti Singh, “Khối lượng ủng hộ cổ phần tư nhân kỷ
lục trong các giao dịch công nghệ,” Wall Street Journal, ngày 3 tháng 1
năm 2022, www.wsj.com/articles/private-equity-backs-record-volume-of-

tech- giao dịch-11641207603.
Đầu tư vào công nghệ AI , chẳng hạn, hãy xem Báo cáo Chỉ số Trí tuệ Nhân
tạo năm 2021, mặc dù con số này chắc chắn đã tăng lên trong thời kỳ bùng
nổ AI tổng quát kể từ đó.

PwC dự báo AI sẽ bổ sung “Định cỡ giải thưởng—Hệ thống nhân tạo toàn cầu của PwC
Nghiên cứu Trí tuệ: Khai thác Cuộc cách mạng AI,” PwC, 2017,
www.pwc.com/gx/en/issues/data-and-analytics/publications/artificial-intelligence-
study.html.
McKinsey dự báo mức tăng thêm 4 nghìn tỷ USD Jacques Bughin và cộng sự,
“Ghi chú từ Biên giới AI: Mô hình hóa tác động của AI trên thế giới
Kinh tế,” McKinsey, ngày 4 tháng 9 năm 2018, www.mckinsey.com/featured-insights/
artificial-intelligence/notes-from-the-ai-frontier-modeling-the-impact-of-ai-on-
the-world -kinh tế; Michael Ciu, “Tiểu sử
Cuộc cách mạng: Những đổi mới làm thay đổi nền kinh tế, xã hội và xã hội của chúng ta
Lives,” Viện Toàn cầu McKinsey, ngày 13 tháng 5 năm 2020,
www.mckinsey.com/industries/pharmaceuticals-and-Medical-products/our-
insights/the-bio-revolution-innovations-transforming-economies-societies-and-
our-lives.
Thúc đẩy việc lắp đặt robot trên thế giới “Robot thay đổi thế giới như thế nào
Thế giới," Kinh tế Oxford, 2019, Tháng sáu 26,
nguồn lực.oxfordkinh tế.com/hubfs/
Cách%20Robots%20Change%20the%20World%20(PDF).pdf.
Hãy xem xét rằng nền kinh tế thế giới Nền kinh tế thế giới trong
Nửa sau Thế kỷ 20,” OECD, 22/09/2006,
read.oecd-ilibrary.org/development/the-world-economy/the-world-economy-in-the-
second-half-of-the-twentieth-century_9789264022621-5-
en#page1.

Với AI tổng quát Philip Trammell và cộng sự, “Tăng trưởng kinh tế nhờ AI chuyển đổi,”
Viện ưu tiên toàn cầu, tháng 10 năm 2020, Globalprioritiesinst acad.org/wp-content/
uploads/Philip-Trammell-and-Anton-Korinek_kinh tế-tăng trưởng-under-transformative
-ai.pdf. Điều này dẫn đến một kịch bản đặc biệt và không thể xảy ra là mức tăng “đủ
nhanh để tạo ra sản lượng vô hạn trong một khoảng thời gian hữu hạn”.
Giả sử điều kiện thời tiết thuận lợi Hannah Ritchie và cộng sự, “Năng suất cây trồng,”
Thế giới dữ liệu của chúng ta, ourworldindata.org/crop-yields.
Trong thế kỷ 21, mang lại “Thống kê nông nghiệp—Diện tích cây trồng cuối cùng, sản
lượng, quần thể vật nuôi và lực lượng lao động nông nghiệp vào ngày 1 tháng 6 năm 2020
tại Vương quốc Anh,” Bộ Môi trường, Thực phẩm & Nông thôn của Chính phủ Vương quốc
Anh, ngày 22 tháng 12 năm 2020, tài sản . xuất bản.service.gov.uk/ Government/ uploads/
system/ uploads/attachment_data/file/946161/structure-jun2020final-uk-22dec20.pdf.
Năng suất ngô trên mỗi ha Ritchie và cộng sự, “Năng suất cây trồng”.
Công việc đòi hỏi phải có Nụ cười, Thế giới thực sự hoạt động thế nào, 66.
Năm 1945, khoảng 50% Max Roser và Hannah Ritchie, “Đói và Suy dinh dưỡng,” Thế giới dữ
liệu của chúng ta, ourworldindata.org/hunger-and-undernourishment.

Trong khi sản xuất điện sạch Hãy mỉm cười, Thế giới thực sự hoạt động như
thế nào, 36.
Kể từ đầu thế kỷ 21 Như trên, 42.
Hãy tưởng tượng cà chua trung bình Ibid., 61.
Hơn nữa, để đáp ứng nhu cầu toàn cầu Daniel Quiggin và cộng sự, “Đánh giá
rủi ro biến đổi khí hậu năm 2021,” Chatham House, ngày 14 tháng 9 năm 2021,
www.chathamhouse.org/2021/09/climate-change-risk-assessment-2021?
7J7ZL,68TH2Q,UNIN9.
Tuy nhiên, phần lớn nó không được phát minh ra Elizabeth Kolbert, Under a
White Sky: The Nature of the Future (New York: Crown, 2022), 155.
AI đã giúp thiết kế một loại enzyme Hongyuan Lu và cộng sự, “Học máy–Hỗ trợ
hydrolase để khử polyme
Kỹ hóa
thuật
PET,” Nature, ngày 27 tháng 4 năm 2022,
www.nature.com/articles/s41586-022-04599-z .
“Khi bạn nhìn thấy thứ gì đó” “J. Robert Oppenheimer 1904–67,” trong Oxford
Essential Quotations, ed. Susan Ratcliffe (Oxford: Nhà xuất bản Đại học
Oxford, 2016), www.oxfordreference.com/view/10.1093/ acref/
9780191826719.001.0001/q-oro-ed4-00007996.

“Những gì chúng tôi đang tạo ra bây giờ” Được trích dẫn trong Dyson, Nhà thờ Turing.

chương 9: cuộc mặc cả lớn
Về cốt lõi, quốc gia-dân tộc. Rõ ràng có rất nhiều sự phức tạp và một lượng
lớn tài liệu về việc sử dụng các thuật ngữ “quốc gia-quốc gia” và “nhà nước”.
Tuy nhiên, ở đây chúng tôi sử dụng chúng theo cách khá cơ bản: các quốc gia-
dân tộc là các quốc gia trên thế giới, người dân và chính phủ của họ (với
tất cả sự đa dạng và phức tạp to lớn ngụ ý); các quốc gia là các chính phủ
và hệ thống cai trị và dịch vụ xã hội trong các quốc gia đó. Ireland, Israel,
Ấn Độ và Indonesia đều là những quốc gia và nhà nước rất khác nhau, tuy
nhiên chúng ta vẫn có thể coi họ như một tập hợp các cơ quan thống nhất mặc
dù có nhiều điểm khác biệt.
Các quốc gia-dân tộc luôn là “thứ gì đó hư cấu,” theo lời của Wendy Brown
(Walled States, Waning Sovereignty [New York: Zone Books, 2010], 69)—làm sao
người dân có thể có chủ quyền nếu quyền lực được thực thi đối với họ ? Tuy
nhiên, quốc gia-dân tộc là một hư cấu vô cùng hữu ích và mạnh mẽ.
Tỷ lệ biết chữ, tuổi thọ Max Roser và Esteban Ortiz-Ospina, “Biết chữ,” Thế
giới dữ liệu của chúng ta, ourworldindata.org/literacy.
Các xã hội phương Tây nói riêng Theo lời của William Davies, Các quốc gia
lo lắng: Cảm giác đã chiếm lĩnh thế giới như thế nào (London: Jonathan Cape,
2018).
Niềm tin vào chính phủ Một phần ba (35%) dân số Vương quốc Anh cho biết họ
tin tưởng vào chính phủ quốc gia của mình, thấp hơn mức trung bình của các
nước OECD (41%). Một nửa (49%) dân số Anh cho biết họ không tin tưởng vào
chính phủ quốc gia. “Xây dựng niềm tin để củng cố nền dân chủ: Những phát
hiện chính
từ Khảo sát của OECD năm 2021 về Động lực tạo niềm tin trong các tổ
chức công,” OECD, www.oecd.org/governance/trust-in- Government.
Dành cho các tổng thống gần đây như Obama “Niềm tin của công chúng vào
chính phủ: 1958–2022,” Trung tâm nghiên cứu Pew, ngày 6 tháng 6 năm
2022, www.pewresearch.org/politics/2022/06/06/public-trust-
in- Government-1958- 2022.
Khá đáng chú ý, một nghiên cứu năm 2018 của Lee Drutman và cộng sự,
“Theo dõi Người lãnh đạo: Khám phá sự ủng hộ của Mỹ đối với Dân chủ
và Chủ nghĩa độc tài,” Nhóm Nghiên cứu Cử tri của Quỹ Dân chủ, tháng 3
năm 2018, fsi-live.s3.us-west-1.amazonaws.com /s3fs-
public/ followtheleader_2018mar13.pdf.
Không dưới 85 phần trăm người Mỹ “Sự không hài lòng của lưỡng đảng
đối với đường lối của đất nước và nền kinh tế,” AP NORC, ngày 29 tháng
6 năm 2022, apnorc.org/projects/bipartisan-dissatisfaction-with-the-
direction-of-the-country -và-nền kinh tế.
Sự ngờ vực mở rộng sang cả các tổ chức phi chính phủ , chẳng hạn, Xem
Daniel Drezner, Ngành công nghiệp ý tưởng: Những người bi quan, đảng
phái và những kẻ tài phiệt đang biến đổi thị trường ý tưởng như thế
nào (New York: Nhà xuất bản Đại học Oxford, 2017) và Edelman Trust
Barometer: “2022 Edelman Trust Phong vũ biểu,” Edelman, www.edelman.com/
trust/ 2022-trust-barometer.

Cuộc thăm dò về Chỉ số Nhận thức Dân chủ Richard Wike và cộng sự, “Nhiều người
trên toàn cầu không hài lòng với cách thức hoạt động của nền dân chủ,”
Trung tâm Nghiên cứu Pew, ngày 29 tháng 4 năm 2019, www.pewresearch.org/global/
2019/04/29/many-across-the-globe-are-dissatisfied-with-how-democracy-is-
working/; Dalia Research và cộng sự, “Chỉ số nhận thức dân chủ 2018,” Liên
minh các nền dân chủ, tháng 6 năm 2018, www.allianceofdemocracies.org/wp-
content/uploads/2018/06/ Democracy-Perception-Index-2018-1.pdf.
Kể từ năm 2010, nhiều quốc gia hơn “Báo cáo mới: Sự suy giảm dân chủ toàn cầu
đã tăng tốc,” Freedom House, ngày 3 tháng 3 năm 2021, Freedomhouse.org/article/
new-report-global-decline-democracy-has-accelerated.
Một chất xúc tác chính của sự bất ổn. Ví dụ, hãy xem Thomas Piketty, Capital
in the Twenty-First Century (Cambridge, Mass.: Harvard University Press, 2014),
và Anthony B. Atkinson, Inequality: What Can Be Done? (Cambridge, Mass.: Nhà
xuất bản Đại học Harvard, 2015), cho các cuộc khảo sát rộng hơn.
Từ năm 1980 đến năm 2021 “Chia sẻ thu nhập quốc gia của 1% dân số cao nhất,”
Cơ sở dữ liệu về bất bình đẳng thế giới, wid.world/world/#sptinc_p99p100_z/
US;FR;DE;CN;ZA;GB;WO/last/eu/k/p/yearly/ s/false/
5.65799999999999995/30/đường cong/false/quốc gia.
Sự giàu có hơn bao giờ hết Richard Mille, “Danh sách tỷ phú thế giới của
Forbes: Người giàu nhất năm 2023,” Forbes, www.forbes.com/billionaires/. Trong khi
Đúng là GDP là một dòng chảy chứ không phải cổ phiếu như của cải, sự so sánh vẫn
rất hấp dẫn.
Chính sách của chính phủ, Alistair Dieppe đang thu hẹp lại , “Sự suy giảm năng
suất trên diện rộng, trong bảy biểu đồ,” Blog của Ngân hàng Thế giới: Hãy nói
chuyện về phát triển, ngày 14 tháng 7 năm 2020, blogs.worldbank.org/ Developmenttalk/
broad-based-productivity-slowdown- bảy biểu đồ.
Bốn mươi triệu người ở Hoa Kỳ Jessica L. Semega và cộng sự, “Thu nhập và nghèo
đói ở Hoa Kỳ: 2016,” Cục điều tra dân số Hoa Kỳ, www.census.gov/content/dam/Census/
library/publications/ 2017/demo /P60-259.pdf, được báo cáo trong digitallibrary.un.org/
record/1629536?ln=en .
Đây là những xu hướng đặc biệt đáng lo ngại . Ví dụ, hãy xem Christian Houle và
cộng sự, “Tính di động xã hội và sự bất ổn chính trị,” Tạp chí Giải quyết Xung
đột, ngày 8 tháng 8 năm 2017, tạp chí.sagepub.com/doi /full/ 10.1177/0022002717723434;
và Carles Boix, “Nguồn gốc kinh tế của các cuộc nội chiến và cách mạng trong thế
giới đương đại,” Chính trị thế giới 60, số 1. 3 (tháng 4 năm 2008): 390–437.
Cần phải có một người dũng cảm. Sự sụp đổ của quốc gia-dân tộc hầu như không phải
là một ý tưởng mới lạ; chẳng hạn, hãy xem Rana Dasgupta, “The Demise of the Nation
State,” Guardian, ngày 5 tháng 4 năm 2018 , www.theguardian.com/news/2018/apr/05/
demise-of-the-nation-state-rana- dasgupta.

Một phân tích tổng hợp được xuất bản Philipp Lorenz-Spreen và cộng sự, “Đánh giá
có hệ thống về bằng chứng tương quan và nhân quả toàn cầu về truyền thông kỹ
thuật số và dân chủ,” Nature Human Behaviour, ngày 7 tháng 11 năm 2022,
www.nature.com/articles/s41562- 022-01460-1.
Là nhà sử học về công nghệ, Langdon Winner, Công nghệ tự động: Kỹ thuật mất kiểm
soát như một chủ đề trong tư duy chính trị (Cambridge, Mass.: MIT Press, 1977),
6.
Trong khi công nghệ không đơn giản hóa , hãy xem Jenny L. Davis, How Artifacts
Afford: The Power and Politics of Everyday Things (Cambridge, Mass.: MIT Press,
2020). Theo cách nói của Ursula M. Franklin (Thế giới công nghệ thực sự [Toronto:
House of Anansi, 1999]), công nghệ mang tính quy định; nghĩa là, việc tạo ra hoặc
sử dụng chúng thúc đẩy hoặc yêu cầu những hành vi, sự phân công lao động hoặc kết
quả nhất định. Những người nông dân sở hữu máy kéo sẽ thực hiện công việc và sắp
xếp nhu cầu của họ theo cách khác với những người nông dân có hai con bò và một
cái cày. Sự phân công lao động được thúc đẩy bởi hệ thống nhà máy tạo ra các loại
tổ chức xã hội khác với xã hội săn bắt hái lượm – một nền văn hóa tuân thủ và
quản lý.
“Các khuôn mẫu được đặt ra trong việc thực hành công nghệ trở thành một phần của
đời sống xã hội” (55).
Đồng hồ tạo ra thời gian cố định Xem Mumford, Technics and Civilization, để có
phân tích tuyệt vời về tác động của đồng hồ cơ.

Báo in đã giúp đỡ Benedict Anderson, Cộng đồng tưởng tượng: Những

suy ngẫm về nguồn gốc và sự lan rộng của chủ nghĩa dân tộc (London:
Verso, 1983).
Trên một quỹ đạo, một số nhà khoa học chính trị theo chủ nghĩa tự do
David Runciman ở Cambridge nói về “các nền dân chủ zombie”, có nghĩa
tương tự: “Ý tưởng cơ bản là mọi người chỉ đơn giản là xem một buổi
biểu diễn trong đó vai trò của họ là đưa ra hoặc từ chối những tràng
pháo tay khi thích hợp. khoảnh khắc. Nền chính trị dân chủ đã trở
thành một màn trình diễn phức tạp.” David Runciman, Dân chủ kết thúc
như thế nào (London: Profile Books, 2019), 47.

chương 10: bộ khuếch đại dễ vỡ
NHS đã bị tấn công . Ví dụ: Xem S. Ghafur và cộng sự, “A
Phân tích tác động hồi cứu của cuộc tấn công mạng WannaCry trên
NHS,” Y học kỹ thuật số NPJ, ngày 2 tháng 10 năm 2019, www.nature.com/articles/
s41746-019-0161-6, để biết thêm.
WannaCry đã lừa một số người dùng Mike Azzara, “WannaCry là gì
Phần mềm tống tiền và nó hoạt động như thế nào?,” Mimecast, ngày 5 tháng 5 năm 2021,
www.mimecast.com/blog/all-you-need-to-know-about-wannacry-
phần mềm tống tiền.
Thiệt hại sau đó đã khiến Andy Greenberg phải trả giá bằng cuốn “Câu chuyện chưa kể về
NotPetya, cuộc tấn công mạng tàn khốc nhất trong lịch sử,” Wired, 08/08/2014
Ngày 22 tháng 1 năm 2018, www.wired.com/story/notpetya-cyber attack-ukraine-russia-

code-crashed-the-world.
Theo lời của một nhân viên NSA James Bamford, “Bình luận:
Bằng chứng chỉ ra một Snowden khác tại NSA,” Reuters, ngày 22 tháng 8,
2016, www.reuters.com/article/us-intelligence-nsa-commentary-idUSKCN10X01P.
“Một kịch bản tương đương” Brad Smith, “Nhu cầu khẩn cấp
Hành động tập thể để giữ an toàn cho mọi người khi trực tuyến: Bài học từ lần cuối
Cuộc tấn công mạng trong tuần,” Blog của Microsoft: Bàn về các vấn đề, ngày 14 tháng 5 năm 2017,
blogs.microsoft.com/on-the-issues/2017/05/14/need- Emergency-collective-
action-keep-people-safe-online-lessons-last-week-cyberAttack.

Quyền lực là “khả năng hoặc năng lực” Định nghĩa được lấy từ Ngôn ngữ Oxford, ngôn
ngữ.oup.com.
Theo lời của tờ New York Times Ronen Bergman và cộng sự, “Nhà khoa học và Cỗ máy
giết người điều khiển từ xa, được hỗ trợ bởi AI,”
New York Times, ngày 18 tháng 9 năm 2021, www.nytimes.com/2021/09/18/ world/

middleeast/iran-nuclear-fakhrizadeh-assassination-israel.html.
Chi phí của máy bay không người lái cấp quân sự Azhar, Exponential, 192.
Đến năm 2028, đạt 26 tỷ USD mỗi năm, Fortune Business Insights, “Thị trường máy
bay không người lái quân sự sẽ đạt 26,12 tỷ USD vào năm 2028; Chi tiêu quân sự
ngày càng tăng trên toàn thế giới để tăng trưởng mạnh mẽ,” Global News Wire, ngày
22 tháng 7 năm 2021, www.globenewswire.com/en/news-release/2021/07/22/ 2267009/0/en/
Military-Drone-Market-to- Hit-USD-26-12-Tỷ-by-2028-Rising-Military-Spending-
Worldwide-to-Augment-Growth-Fortune-Business-Insights.html.
Ví dụ, vào tháng 5 năm 2021, David Hambling, “Israel đã sử dụng đàn máy bay không
người lái chiến đấu có điều khiển bằng AI đầu tiên trên thế giới trong các cuộc
tấn công ở Gaza,” New Scientist, ngày 30 tháng 6 năm 2021, www.newscientist.com/
article/2282656-israel-used-worlds-first -ai-guided-chiến đấu-drone-swarm-in-

gaza-tấn công.
Các công ty khởi nghiệp như Anduril Dan Primack, “Độc quyền: Phòng thủ nổi dậy huy
động được 150 triệu đô la ở mức định giá 1 tỷ đô la,” Axios, ngày 15 tháng 9 năm
2021, www.axios.com/2021/09/15/rebellion-defense-raises-150- triệu-
định giá hàng tỷ đồng; Ingrid Lunden, “Anduril đang huy động tới 1,2 tỷ đô la, các
nguồn tin cho biết ở mức định giá trước 7 tỷ đô la cho công nghệ quốc phòng của nó,”
TechCrunch, ngày 24 tháng 5 năm 2022, techcrunch.com/2022/05/24/filing-anduril-is-
raise-up-to-1-2b-sources-say-at-a-7b-pre-money-valuation-for -nó-quốc phòng-

công nghệ.
Với tư cách là chuyên gia an ninh mạng Bruce Schneier, “Những hacker AI sắp tới,”
Trung tâm Belfer của Trường Harvard Kennedy, tháng 4 năm 2021, www.belfercenter.org/
publication/coming-ai-hackers.
Các nhà nghiên cứu tại Meta đã tạo ra Anton Bakhtin và cộng sự, “Trò chơi cấp độ
con người trong trò chơi ngoại giao bằng cách kết hợp các mô hình ngôn ngữ với lý
luận chiến lược,” Khoa học, ngày 22 tháng 11 năm 2022, www.science.org/doi/ 10.1126/
science.ade9097 .
Khi phi nhà nước Xem Benjamin Wittes và Gabriella Blum, Tương lai của bạo lực:
Robot và người Đức, tin tặc và máy bay không người lái— Đối đầu với một thời đại
đe dọa mới (New York: Sách cơ bản, 2015), để có phiên bản phát triển hơn của lập
luận này.
Cả hình thức và âm thanh đều được báo cáo lần đầu trên Nilesh Cristopher, “Chúng
tôi vừa thấy lần đầu tiên sử dụng Deepfakes trong một chiến dịch bầu cử ở Ấn Độ,”
Vice, ngày 18 tháng 2 năm 2020, www.vice.com/en/article/jgedjb/the- lần sử dụng đầu
tiên của deepfakes-in-Indian-election-by-bjp.
Trong một sự việc khác được công bố rộng rãi , Melissa Goldin, “Video về Biden hát
'Baby Shark' là một trò giả mạo,” Associated Press, ngày 11 tháng 10 năm 2014.
2022, apnews.com/article/fact-check-biden-baby-shark- 19,
deepfake-412016518873; “Video nổi bật của bác sĩ Nancy Pelosi
Mối đe dọa của công nghệ 'Deepfake',” CBS News, 25 tháng 5 năm 2019,
www.cbsnews.com/news/doctored-nancy-pelosi-video-highlights-threat-of-deepfake-
tech-2019-05-25.
Nếu bạn muốn xem TikTok @deeptomcruise, www.tiktok.com/
@deeptomcruise?lang=en.
Một ngân hàng ở Hồng Kông Thomas Brewster, “Kẻ lừa đảo nhân bản
Tiếng nói của Giám đốc Công ty trong Vụ cướp ngân hàng trị giá 35 triệu đô la, Cảnh sát tìm thấy,”
Forbes, ngày 14 tháng 10 năm 2021, www.forbes.com/sites/thomasbrewster/2021/
14/10/huge-ngân hàng-lừa đảo-sử dụng-deep-giả-giọng nói-công nghệ-để-ăn cắp-hàng triệu.
Tất cả các tài liệu đều có vẻ như Catherine Stupp, “Kẻ lừa đảo đã sử dụng AI
bắt chước tiếng nói của CEO trong vụ án tội phạm mạng bất thường,” Phố Wall
Tạp chí, ngày 30 tháng 8 năm 2019, www.wsj.com/articles/fraudsters-use-ai-to-mimic-
ceos-voice-in-unusual-cybercrime-case-11567157402.
Đó không phải là sự buộc tội của tổng thống mà là một trò deepfake thực sự. gặp Kelly
Jones, “Video lan truyền về việc Biden nói rằng ông ấy đang khôi phục dự thảo là một
Deepfake,” Verify, ngày 1 tháng 3 năm 2023, www.verifythis.com/article/news/
xác minh/xác minh quốc gia/viral-video-of-biden-saying-hes-reinstating-the-draft-is-
a-deepfake/536-d721f8cb-d26a-4873-b2a8-91dd91288365.
Thông điệp cực đoan của hắn là Josh Meyer, “Anwar al-Awlaki:
Giáo sĩ cấp tiến truyền cảm hứng khủng bố từ bên ngoài ngôi mộ,” NBC
Tin tức, ngày 21 tháng 9 năm 2016, www.nbcnews.com/news/us-news/anwar-al-
awlaki-radical-cleric-inspiring-terror-beyond-grave-n651296; Alex
Hern, “ Video Anwar al-Awlaki của 'YouTube Muslim' đã bị xóa trong
Cuộc trấn áp chủ nghĩa cực đoan,” Guardian, tháng 11 năm 2017, 13,
www.theguardian.com/technology/2017/nov/13/youtube-islamist-anwar-al-
awlaki-videos-removed-google-extremism-clampdown.
Những video này sẽ sớm có đầy đủ Eric Horvitz, “On the Horizon:
Các tác phẩm sâu có tính tương tác và có tính sáng tác,” ICMI '22: Kỷ yếu của
Hội nghị quốc tế về tương tác đa phương thức năm 2022,
arxiv.org/abs/2209.01714.
Theo Facebook Thượng viện Hoa Kỳ, Báo cáo của Select
Ủy ban Tình báo: Các chiến dịch Biện pháp Tích cực của Nga
và Can thiệp vào cuộc bầu cử Hoa Kỳ năm 2016, tập. 5,
Các mối đe dọa và lỗ hổng phản gián, Đại hội lần thứ 116, lần thứ nhất
ses., www.intelligence.senate.gov/sites/default/files/documents/
report_volume5.pdf; Nicholas Fandos và cộng sự, “Tình báo nội bộ
Ủy ban phát hành quảng cáo truyền thông xã hội Nga gây cháy nổ,” Mới
York Times, ngày 1 tháng 11 năm 2017, www.nytimes.com/2017/11/01/us/politics/
russia-technology-facebook.html.
Thật không may, nó không chỉ ở Nga . Tuy nhiên, nó thường

Nga. Năm 2021, 58% các cuộc tấn công mạng đến từ Nga
một mình. Xem Tom Burt, “Các cuộc tấn công mạng của Nga gây rủi ro lớn hơn cho
Chính phủ và những thông tin chuyên sâu khác từ Báo cáo thường niên của chúng tôi,” Microsoft
Blog: Về các vấn đề, ngày 7 tháng 10 năm 2021, blogs.microsoft.com/on-the-

issues/2021/10/07/digital-defense-report-2021.

Hơn bảy mươi quốc gia Samantha Bradshaw và cộng sự, “Thông tin sai
lệch được công nghiệp hóa: Danh sách toàn cầu về thao tác truyền
thông xã hội có tổ chức năm 2020,” Chương trình Dân chủ & Công nghệ
của Đại học Oxford, ngày 13 tháng 1 năm 2021 , demtech.oii.ox.ac.uk/
search/ bài viết/thông tin sai lệch công nghiệp hóa.
CIA cũng không xa lạ. Ví dụ, hãy xem Krassi Twigg và Kerry Allen,
“Chiến thuật thông tin sai lệch được Trung Quốc sử dụng,” BBC News,
ngày 12 tháng 3 năm 2021, www.bbc.co.uk/news/56364952; Kenddrick Chan
và Mariah Thornton, “Trung Quốc đang thay đổi thông tin sai lệch và
tuyên truyền nhắm mục tiêu vào Đài Loan,” Nhà ngoại giao, ngày 19
tháng 9 năm 2022, thediplomat.com/2022/09/chinas-changed-
disinformation-and-propaganda-targeting-taiwan/; và Emerson T. Brooking
và Suzanne Kianpour, “Những nỗ lực gây ảnh hưởng kỹ thuật số của
Iran: Phát thanh du kích trong thế kỷ 21,” Hội đồng Atlantic, ngày 11
tháng 2 năm 2020, www.atlanticcouncil.org/in-deep-research-reports/
report/ Iran-kỹ thuật số-ảnh hưởng-nỗ lực-du kích-phát thanh-cho-thế
kỷ XXI.
82% người dùng có ảnh hưởng Virginia Alvino Young, “Gần một nửa số
tài khoản Twitter thảo luận về 'Mở cửa lại nước Mỹ' có thể là robot,"
Đại học Carnegie Mellon, ngày 27 tháng 5 năm 2020, www.cmu.edu/news/
stories/archives/2020 /may/twitter-bot-campaign.html.
Gợi ý về “Infocalypse” Xem Nina Schick, Deep Fakes and the Infocalypse:
What You Emergency Need to Know (London: Monoray, 2020); và Ben
Buchanan và cộng sự, “Sự thật, Lời nói dối và Tự động hóa,”
Trung tâm An ninh và Công nghệ Mới nổi, tháng 5 năm 2021, cset.georgetown.edu/
publication/truth-lies-and-automation.
Theo lời của William A. Galston, Viện Brookings, “Có phải Cái nhìn vẫn còn
đáng tin không? Thử thách Deepfake đối với sự thật trong chính trị,”
Brookings, ngày 8 tháng 1 năm 2020, www.brookings.edu/research/is-seeing-
still-believing-the-deepfake-challenge-to-truth-in-politics.
Được phát hiện lần đầu tiên ở Trung Quốc Hình lấy từ William MacAskill,
What We Owe the Future: A Million-Year View (London: Oneworld, 2022), 112,
người trích dẫn nhiều nguồn khác nhau, mặc dù thừa nhận rằng không có nguồn
nào chắc chắn về con số này. Xem thêm HC Kung và cộng sự, “Cúm ở Trung Quốc
năm 1977: Sự tái phát của vi-rút cúm loại A H1N1,” Bản tin của Tổ chức Y tế
Thế giới 56, số 1. 6 (1978), www.ncbi.nlm.nih.gov/pmc/articles/PMC2395678/
pdf/bullwho00443-0095.pdf .
Điều bất thường về bệnh cúm H1N1 Joel O. Wertheim, “Sự tái xuất hiện của
vi-rút cúm H1N1 năm 1977: Câu chuyện cảnh báo về việc ước tính thời gian
phân kỳ bằng cách sử dụng ngày lấy mẫu phi thực tế về mặt sinh học,” PLOS
ONE, ngày 17 tháng 6 năm 2010, tạp chí.plos. org/plosone/ article?id=10.1371/
journal.pone.0011184.
Một phiên bản của virus trước đó Xem ví dụ, Edwin D.

Kilbourne, “Đại dịch cúm thế kỷ 20,” Các bệnh truyền nhiễm mới nổi 12,
không. 1 (tháng 1 năm 2006), www.ncbi.nlm.nih.gov/pmc/articles/PMC3291411 ;
và Michelle Rozo và Gigi Kwik Gronvall, “Chủng H1N1 tái xuất hiện 1977 và
lợi ích của-
Tranh luận về chức năng,” mBio, ngày 18 tháng 8 năm 2015, www.ncbi.nlm.nih.gov/
pmc/articles/PMC4542197 .
Chưa hết, những tai nạn và rò rỉ , chẳng hạn, hãy xem những tài khoản hay trong
Alina Chan và Matt Ridley, Viral: The Search for the Origin of Covid-19 (London:
Fourth Estate, 2022) và MacAskill, What We Owe the Future.
Chỉ hai năm sau, bào tử bệnh than xuất hiện Kai Kupferschmidt, “Bộ gen bệnh than
tiết lộ bí mật về một tai nạn vũ khí sinh học của Liên Xô,”
Khoa học, ngày 16 tháng 8 năm 2016, www.science.org/content/article/anthrax-
genome-reveals-secrets-about-soviet-bioweapons-accident.
Năm 2007, một đường ống bị rò rỉ TJD Knight-Jones và J. Rushton, “Tác động kinh
tế của bệnh lở mồm long móng—Chúng là gì, chúng lớn đến mức nào và chúng xảy ra
ở đâu?”, Thuốc thú y dự phòng, tháng 11 năm 2013 , www .ncbi.nlm.nih.gov/pmc/
articles/ PMC3989032/#bib0005. Cần lưu ý rằng thiệt hại ít hơn nhiều so với đợt
bùng phát năm 2001, nguyên nhân là do tự nhiên.
Vào năm 2021, một công ty dược phẩm Maureen Breslin, “Nhân viên phòng thí nghiệm
tìm thấy các lọ được dán nhãn 'Bệnh đậu mùa' tại Cơ sở Merck," The Hill, ngày
17 tháng 11 năm 2021, thehill.com/policy/healthcare/581915-lab-worker-finds-vials-
được dán nhãn-bệnh đậu mùa-tại-merck-cơ sở-gần-philadelphia.
Trước khi nó bị xóa sổ , Sophie Ochmann và Max Roser, “Smalpox,” Our World in
Data, ourworldindata.org/smallpox; Kelsey

Piper, “Bệnh đậu mùa từng giết chết hàng triệu người mỗi năm. Đây là cách
con người đánh bại nó,” Vox, ngày 8 tháng 5 năm 2022, www.vox.com/future-
perfect/21493812/smallpox-eramination-vaccines-infectious-disease-covid-19.
Khá khó tin là nó đã thoát khỏi Xem, ví dụ, Kathryn Senio, “Trường hợp
SARS gần đây ở Singapore là một tai nạn trong phòng thí nghiệm,” Bệnh
truyền nhiễm Lancet, tháng 11 năm 2003, www.thelancet.com/journals/laninf/
article/PIIS1473-3099(03)00815 -6/toàn văn; Jane Parry, “Việc vi phạm các
quy định an toàn có thể là nguyên nhân gây ra đợt bùng phát dịch SARS gần
đây, WHO cho biết,” BMJ, ngày 20 tháng 5 năm 2004, www.bmj.com/content/
328/7450/1222.3 ; và Martin Furmanski, “Dịch bệnh trốn thoát khỏi phòng
thí nghiệm và 'Lời tiên tri tự ứng nghiệm',” Trung tâm Kiểm soát Vũ khí,
ngày 17 tháng 2 năm 2014, armscontrolcenter.org/wp-content/uploads/
2016/02/Escaped-Viruses-final-2-17 -14-copy.pdf.
Ngay cả số lượng phòng thí nghiệm BSL-4 , Alexandra Peters, “Sự phổ biến
toàn cầu của các phòng thí nghiệm sinh học ngăn chặn cao: Tìm hiểu về hiện
tượng và ý nghĩa của nó,” Revue Scientifique et Technique, tháng 12 năm
2018, pubmed.ncbi.nlm.nih.gov/ 30964462. Số lượng phòng thí nghiệm đã
tăng từ năm mươi chín lên sáu mươi chín trong hai năm qua, hầu hết đều
nằm trong bối cảnh đô thị hóa và số lượng phòng thí nghiệm xử lý các mầm
bệnh chết người là trên một trăm. Một thế hệ phòng thí nghiệm “BSL-3+”
mới cũng đã bùng nổ. Xem Filippa Lentzos và cộng sự, “Báo cáo BioLabs toàn
cầu năm 2023,” King's College London, ngày 16 tháng 5 năm 2023,
www.kcl.ac.uk/warstudies/assets/global-biolabs-report-2023.pdf.

Từ năm 1975 đến năm 2016 , David Manheim và Gregory Lewis, “Các sự kiện phơi
nhiễm mầm bệnh do con người gây ra có nguy cơ cao từ năm 1975–2016,”
F1000Research, ngày 8 tháng 7 năm 2022, f1000research.com/articles/10-752.
Một cuộc khảo sát của các quan chức an toàn sinh học David B. Manheim, “Kết quả
khảo sát năm 2020 về các yêu cầu và thực hành báo cáo đối với các tai nạn trong
phòng thí nghiệm bảo vệ sinh học,” An ninh Y tế 19, không. 6 (2021),
www.liebertpub.com/doi/10.1089/hs.2021.0083.
Đánh giá rủi ro của Hoa Kỳ từ năm 2014 Lynn C. Klotz và Edward J.
Sylvester, “Hậu quả của việc một mầm bệnh đại dịch tiềm tàng thoát khỏi phòng
thí nghiệm,” Biên giới trong y tế công cộng, ngày 11 tháng 8 năm 2014,
www.frontiersin.org/articles/10.3389/fpubh.2014.00116/full.
Rất ít lĩnh vực sinh học gây tranh cãi. Đặc biệt, xin cảm ơn Jason Matheny và
Kevin Esvelt vì cuộc thảo luận của họ về chủ đề này.
Làm việc với bệnh cúm gia cầm Martin Enserink và John Cohen, “Một trong hai bài
báo về H5N1 được tranh luận sôi nổi cuối cùng đã được xuất bản,” Khoa học,
ngày 2 tháng 5 năm 2012, www.science.org/content/article/one-two-hotly-debated-
h5n1- giấy tờ-cuối cùng-được xuất bản.
Trong một thời gian, các cơ quan tài trợ của Hoa Kỳ Amber Dance, “The Shifting
Sands of 'Gain-of-Function' Research,” Nature, ngày 27 tháng 10 năm 2021,
www.nature.com/articles/d41586-021-02903-x.

Ít nhất có một số dấu hiệu cho thấy Chan và Ridley, Viral; “Nghiên cứu mới gây
tranh cãi cho thấy SARS-CoV-2 có dấu hiệu của kỹ thuật di truyền,”
Nhà kinh tế, 2022, Tháng 27,
www.economist.com/science-
10
and-technology/2022/10/22/a-new-paper-claims-sars-cov-2-bears-signs-of-genic-
engineering.
Ví dụ, cả FBI và Bộ Năng lượng Hoa Kỳ đều xem Max Matza và Nicholas Yong,
“Giám đốc FBI Christopher Wray nói rằng Phòng thí nghiệm Trung Quốc có nhiều
khả năng bị rò rỉ nhất,” BBC, ngày 1 tháng 3 năm 2023, www.bbc.co.uk/news/ thế
giới-us-canada-64806903.
Vào cuối năm 2022, một nghiên cứu của NIH Da-Yuan Chen và cộng sự, “Vai trò
của Spike trong hành vi gây bệnh và kháng nguyên của SARS-CoV-2 BA.1 Omicron,”
bioRxiv, ngày 14 tháng 10 năm 2022, www.biorxiv.org /nội dung/10.1101 /

2022.10.13.512134v1.
Nhiều người cảm thấy không nên thực hiện nghiên cứu này Kiran Stacey, “Các
quan chức Y tế Hoa Kỳ thăm dò nghiên cứu về vi rút Covid của Đại học Boston,”
Financial Times, ngày 20 tháng 10 năm 2022, www.ft.com/content/
f2e88a9c-104a-4515-8de1-65d72a5903d0 .
Phân tích ban đầu của ChatGPT Shakked Noy và Whitney Zhang, “Bằng chứng thực
nghiệm về tác động năng suất của trí tuệ nhân tạo sáng tạo,” MIT Economics,
ngày 10 tháng 3 năm 2023, Economics.mit.edu/sites/default/files/inline-files/
Noy_Zhang_1_0.pdf .

Điều đó có thể ảnh hưởng đến việc tuyển dụng. Tuy nhiên, tổng số có thể ít hơn
nhưng vẫn đáng kể. Xem James Manyika và cộng sự, “Việc làm bị mất, việc làm có
được: Tương lai của công việc sẽ có ý nghĩa gì đối với việc làm, kỹ năng và tiền
lương,” Viện Toàn cầu McKinsey, ngày 28 tháng 11 năm 2017, www.mckinsey.com/
featured-insights/ tương lai của công việc/việc làm-mất-việc-đạt được-điều-
tương lai-của-công việc-sẽ-có ý nghĩa gì đối với công việc-kỹ năng-và-tiền lương.
Cách diễn đạt chính xác: “Chúng tôi ước tính rằng khoảng một nửa số hoạt động mà
mọi người được trả tiền để thực hiện trong lực lượng lao động trên thế giới có
thể được tự động hóa bằng cách điều chỉnh các công nghệ hiện đã được chứng minh.”
Thống kê thứ hai từ Mark Muro và cộng sự, “Tự động hóa và trí tuệ nhân tạo: Máy
móc ảnh hưởng đến con người và địa điểm như thế nào,”
Chương trình Chính sách Đô thị, Brookings, 2019, www.brookings.edu/wp-content/

Tháng một.
uploads/2019/01/ 2019.01_BrookingsMetro_Automation-
AI_Report_Muro-Maxim-Whiton-FINAL-version.pdf.
Các nhà kinh tế học Daron Acemoglu Daron Acemoglu và Pascual Restrepo, “Robot và
việc làm: Bằng chứng từ thị trường lao động Hoa Kỳ,”
Tạp chí Kinh tế Chính trị 128, số 1. 6 (tháng 6 năm 2020), www.journals.uchicago.edu/
doi/abs/10.1086/705716.
Các thuật toán ngày nay thực hiện Ibid rộng lớn .; Edward Luce, The Retreat of
Western Liberalism (London: Little, Brown, 2017), 54. Xem thêm Justin Baer và
Daniel Huang, “Wall Street Staffing Falls Again,” Wall Street Journal, ngày 19
tháng 2 năm 2015, www.wsj. com/articles/ wall-street-staffing-falls-for-thứ tư-năm
liên tiếp-1424366858; Ljubica Nedelkoska và Glenda Quintini, “Tự động hóa,
Sử dụng kỹ năng và Đào tạo,” OECD, ngày 8 tháng 3 năm 2018, www.oecd-ilibrary.org/
employment/automation-skills-use-and-training_2e2f4eea-en .

Các nhà kinh tế học như David Autor David H. Autor, “Tại sao vẫn có quá nhiều việc
làm? Lịch sử và Tương lai của Tự động hóa Nơi làm việc,”
Tạp chí Quan điểm Kinh tế 29, số 1. 3 (Mùa hè 2015), www.aeaweb.org/articles?
id=10.1257/jep.29.3.3.
Dựa vào nỗi sợ hãi đó Đây là quan điểm của Azeem Azhar: “Tuy nhiên, về tổng thể,
tác động lâu dài của tự động hóa sẽ không phải là tình trạng mất việc làm”
(Azhar, Hàm mũ, 141).
Thị trường lao động cũng có những xung đột lớn. Xem Daniel Susskind, A World
Without Work: Technology, Automation and How We Should Reply (London: Allen Lane,
2021), để biết thêm chi tiết về những xung đột này.
Chỉ số chất lượng việc làm của khu vực tư nhân “Chỉ số chất lượng việc làm của khu
vực tư nhân Hoa Kỳ (JQI),” Đại học tại Trường Quản lý Buffalo, tháng 2 năm 2023,
ubwp.buffalo.edu/job-quality-index-jqi. Xem thêm Ford, Quy tắc của Robot.
Ngay cả những người không đoán trước được Autor, “Tại sao vẫn còn nhiều việc làm
như vậy?”

chương 11: tương lai của các quốc gia
Lúc đầu đỏ mặt, bàn đạp màu trắng, Công nghệ thời trung cổ và Thay đổi xã
hội. Tuy nhiên, tài khoản không được chấp nhận rộng rãi. Để có cách đọc mang
tính hoài nghi hơn về luận điểm nổi tiếng của Lynn White, hãy xem, chẳng hạn
như “The Great Stirrup Controversy,” The Medieval Technology Pages,
web.archive.org/web/20141009082354/ http://scholar.chem.nyu.edu/ tekpages/
texts/strpcont.html.
Thế giới “hậu có chủ quyền” không thể cai trị này Brown, Walled States, Chủ
quyền suy yếu.
Phong tục, nghĩa vụ và cổ tức của nó William Dalrymple, Tình trạng hỗn loạn:
Sự trỗi dậy không ngừng của Công ty Đông Ấn (London: Bloomsbury, 2020), 233.
Các tổ chức cũng là một loại trí thông minh. Richard Danzig lần đầu tiên đề
xuất ý tưởng này với tôi trong bữa tối và sau đó xuất bản một bài báo xuất
sắc: “Máy móc, quan liêu và thị trường là trí tuệ nhân tạo,” Trung tâm An
ninh và Công nghệ mới nổi, tháng 1 năm 2022, cset.georgetown .edu/wp-content/
uploads/Machines-Bureaucracies-and-Markets-as-Artificial-Intelligences.pdf.
Để hiểu được mức độ tập trung này “Global 500”, Fortune, Fortune.com/
global500/. Tính đến tháng 10 năm 2022. Các số liệu của Ngân hàng Thế giới
cho thấy thấp hơn một chút: Ngân hàng Thế giới, “GDP (Đô la Mỹ hiện tại),,”
Dữ liệu của Ngân hàng Thế giới, data.worldbank.org/indicator/NY.GDP.MKTP.CD.

Các công ty đã kiểm soát các cụm lớn nhất Benaich và Hogarth, Báo cáo
trạng thái AI năm 2022.
Đã có James Manyika và cộng sự nổi bật, “Siêu sao: Động lực của các công
ty, ngành và thành phố dẫn đầu nền kinh tế toàn cầu,” Viện Toàn cầu
McKinsey, ngày 24 tháng 10 năm 2018, www.mckinsey.com/featured-insights/
innovation -and-tăng trưởng/ siêu sao-động lực của các công ty-
ngành-và-thành phố-dẫn đầu nền kinh tế toàn cầu.
Chín mươi phần trăm các tranh chấp này Quy tắc Colin, “Tách con người
khỏi vấn đề,” Thực hành, tháng 7 năm 2020, thepractice.law.harvard.edu/
article/separating-the-people-from-the-problem.
Ví dụ, sản xuất với chi phí cận biên bằng không , hãy xem Jeremy Rifkin,
The Zero Marginal Cost Society: The Internet of Things, Collaborative
Commons, và Eclipse of Capitalism (New York: Palgrave, 2014).
Hơn nữa, chủ sở hữu của những hệ thống tốt nhất Erik Brynjolfsson gọi
tình huống mà AI ngày càng chiếm lĩnh nền kinh tế, nhốt một số lượng
lớn người vào trạng thái cân bằng, nơi họ không có việc làm, không của
cải và không có quyền lực đáng kể, là “Bẫy Turing”. .” Erik Brynjolfsson,
“Bẫy Turing: Lời hứa và mối nguy hiểm của trí tuệ nhân tạo giống con
người,” Phòng thí nghiệm kinh tế kỹ thuật số Stanford, ngày 11 tháng 1
năm 2022, arxiv.org/pdf/2201.04200.pdf.

Không có gì ngạc nhiên khi có cuộc nói chuyện. Ví dụ, hãy xem Joel Kotkin, Sự
xuất hiện của chủ nghĩa phong kiến mới: Lời cảnh báo đối với tầng lớp trung
lưu toàn cầu (New York: Encounter Books, 2020).
Bất chấp những nỗ lực cao nhất của các nhà cách mạng James C. Scott, Nhìn như
một nhà nước: Một số kế hoạch cải thiện tình trạng con người đã thất bại như
thế nào (New Haven, Conn.: Nhà xuất bản Đại học Yale, 1998).
Trên đường đi và suốt cả ngày “Có bao nhiêu camera quan sát ở Luân Đôn?”,
CCTV.co.uk, ngày 18 tháng 11 năm 2020 , www.cctv.co.uk/how-many-cctv-Cameras-are-
ở London.
So với Tây Benaich và Hogarth, Báo cáo Tình hình AI năm 2022.
Đến năm 2015, đây là nguồn cảm hứng Dave Gershgorn, “Chương trình 'Đôi mắt sắc
nét' của Trung Quốc nhằm mục đích giám sát 100% không gian công cộng,” OneZero,
ngày 2 tháng 3 năm 2021, onezero.medium.com/chinas-sharp-eyes-program-aims-to
-surveil-100-of-public-space-ddc22d63e015.
Nhóm các nhà nghiên cứu hàng đầu Shu-Ching Jean Chen, “SenseTime: The Faces
Behind China's Artificial Intelligence Unicorn,” Forbes, ngày 7 tháng 3 năm

2018 , www.forbes.com/sites/shuchingjeanchen/2018/03/07/the-faces- đằng sau công
nghệ-giám sát-video-toàn trí của Trung Quốc.

Cảnh sát Trung Quốc thậm chí còn có kính râm Sofia Gallarate, “Các sĩ quan cảnh
sát Trung Quốc đang đeo kính râm nhận dạng khuôn mặt,” Fair Planet, ngày 9 tháng 7
năm 2019, www.fairplanet.org/story/chinese-police-officers-are-wearing-facial-
recogni%C2 %ADtion-kính râm.
Khoảng một nửa tỷ camera quan sát trên thế giới Số liệu thống kê này và dưới đây được thực hiện
từ cuộc điều tra của New York Times : Isabelle Qian và cộng sự, “Bốn bài học rút
ra từ cuộc điều tra của Times về Nhà nước giám sát mở rộng của Trung Quốc,” New
York Times, ngày 21 tháng 6 năm 2022, www.nytimes.com/2022/06/21/world/ asia/china-
surveillance-investigation.html.
Hệ thống hỗ trợ AI này có thể phát hiện ra Ross Andersen, “The Panopticon Is Have
Here,” Atlantic, tháng 9 năm 2020, www.theatlantic.com/magazine/archive/2020/09/
china-ai-surveillance/614197.
Các nhà chức trách đã xây dựng một công cụ quét mống mắt của Qian và cộng sự, “Bốn
bài học rút ra từ Cuộc điều tra của Thời báo về Nhà nước Giám sát Mở rộng của
Trung Quốc”.
Năm 2019, chính phủ Hoa Kỳ đã cấm “Mục 889 của NDAA,” GSA SmartPay, smartpay.gsa.gov/
content/ndaa-section-889.
Tuy nhiên, chỉ một năm sau, ba cơ quan liên bang Conor Healy, “US
Quân đội và Chính phủ không vi phạm pháp luật, Mua Dahua/Lorex bị cấm,
Ủy ban Quốc hội kêu gọi điều tra,” IPVM, ngày 1 tháng 12 năm 2019, ipvm.com/
reports/usg-lorex.
Hơn một trăm thị trấn ở Hoa Kỳ Zack Whittaker, “Các thị trấn ở Hoa Kỳ đang mua
công nghệ giám sát của Trung Quốc gắn liền với việc lạm dụng người Duy Ngô Nhĩ,”
TechCrunch, ngày 24 tháng 5 năm 2021, techcrunch.com/2021/05/24/united-states-

towns-hikvision-dahua-surveillance.
Trong nhà kho thông minh Joshua Brustein, “Các nhà kho đang theo dõi mọi chuyển
động cơ bắp của công nhân,” Bloomberg, ngày 5 tháng 11 năm 2019, www.bloomberg.com/
news/articles/2019-11-05/am-i-being-tracked-at -làm việc-nhiều-của-kho-công
nhân-được.
Các công ty như Giải pháp cảnh giác Kate Crawford, Atlas về AI: Quyền lực,
Chính trị và Chi phí Hành tinh của Trí tuệ Nhân tạo (New Haven, Conn.: Nhà xuất
bản Đại học Yale, 2021).
Ngay cả chiếc bánh pizza mang đi của bạn Joanna Fantozzi, “Domino sử dụng máy
ảnh AI để đảm bảo bánh pizza được nấu đúng cách,” Nation's Restaurants News,
ngày 29 tháng 5 năm 2019, www.nrn.com/quick-service/ domino-s-USE-ai-Cameras -đảm
bảo pizza được nấu chín đúng cách.
Trước làn sóng sắp tới, hãy xem xét rằng một cuốn tiểu thuyết cập nhật về những
viễn cảnh giám sát như The Every của Dave Eggers chưa thực sự thay đổi về mặt
chính xác những gì được giám sát và được trình bày không phải là khoa học viễn
tưởng xa vời mà là một sự châm biếm về công nghệ đương đại các công ty.
Nó có thể được trang bị vũ khí tốt nhất. Nhà phân tích là Chuẩn tướng (Ret.)
Assaf Orion của Viện Nghiên cứu An ninh Quốc gia Israel. “Tương lai của Hội
nghị chuyên đề về Quan hệ Mỹ-Israel,” Hội đồng Quan hệ Đối ngoại, ngày 2
tháng 12 năm 2019, www.cfr.org/event/future-us-israel-relations-symposium,
được trích dẫn trong Kali Robinson, “Hezbollah là gì? ,” Hội đồng Quan hệ
Đối ngoại, ngày 25 tháng 5 năm 2022, www.cfr.org/backgrounder/what-hezbollah .
Nó cũng tiến hành nhiều chương trình thương mại khác nhau, chẳng hạn như
“Giải thích: Cách Hezbollah xây dựng một đế chế ma túy thông qua ' Chiến
lược khủng bố ma túy'”, Arab News, ngày 3 tháng 5 năm 2021, www.arabnews.com/
node/ 1852636/middle-east.
Thay vào đó là Lina Khatib kỳ lạ, “Cách Hezbollah nắm giữ quyền kiểm soát
Nhà nước Lebanon,” Chatham House, ngày 30 tháng 6 năm 2021,
www.chathamhouse.org/sites/default/files/2021-06/2021-06-30-how -hezbollah-
holds-sway-over-the-leban-state-khatib.pdf.
Tuy nhiên, làn sóng sắp tới Điều này chỉ đơn giản là mở rộng đáng kể một số
xu hướng hiện có, theo đó, giống như trong quá trình tập trung hóa, các chủ
thể tư nhân đảm nhận nhiều vai trò hơn mà theo truyền thống được cho là của
nhà nước. Ví dụ, hãy xem Rodney Bruce Hall và Thomas J.
Biersteker, Sự xuất hiện của quyền lực tư nhân trong quản trị toàn cầu
(Cambridge, Vương quốc Anh: Nhà xuất bản Đại học Cambridge, 2002).

Nhớ lại điều đó chỉ trong thập kỷ qua “ Chi phí phát điện tái tạo năm
2019,” IRENA, tháng 6 năm 2020, www.irena.org/publications/2020/Jun/
Renewable-Power-Costs-in-2019 .
Các nhà công nghệ theo chủ nghĩa siêu tự do James Dale Davidson và
William Rees-Mogg, Cá nhân có chủ quyền: Làm chủ quá trình chuyển đổi
sang thời đại thông tin (New York: Touchstone, 1997).
Ngọn lửa của các dịch vụ công cộng Peter Thiel, “Giáo dục của một người
theo chủ nghĩa tự do,” Cato Unbound, ngày 13 tháng 4 năm 2009, www.cato-
unbound.org/ 2009/04/13/peter-thiel/education-libertarian. Xem Balaji
Srinivasan, The Network State (xuất bản năm 1729, 2022), để có cái nhìn
sâu sắc hơn về cách các cấu trúc công nghệ có thể thay thế quốc gia-
dân tộc.

chương 12: tình thế tiến thoái lưỡng nan
Dân số Anh Niall Ferguson, Doom: The Politics of Catastrophe (London: Allen
Lane, 2021), 131.
Số người thiệt mạng trong Thế chiến thứ nhất được lấy từ ibid.
Một số lượng vi-rút mới lây truyền sang người được lấy từ một cuộc họp
ngắn bí mật, nhưng chúng tôi hiểu rằng điều này được các chuyên gia an
toàn sinh học coi là hợp lý.
Không khó để nhận ra. Điều đáng chú ý là 1/3 số nhà khoa học nghiên cứu về
AI tin rằng nó có thể dẫn đến thảm họa. Jeremy Hsu, “Một phần ba số nhà
khoa học nghiên cứu về AI nói rằng nó có thể gây ra thảm họa toàn cầu,” New
Scientist, ngày 22 tháng 9 năm 2022, www.newscientist.com/article/2338644-
a-third-of-scientists-working-on- ai-say-nó-có thể-gây ra thảm họa toàn cầu.
Được thành lập vào những năm 1980, Aum Shinrikyo See Richard Danzig và
Zachary Hosford, “Aum Shinrikyo—Second Edition—English,”
CNAS, ngày 20 tháng 12 năm 2012, www.cnas.org/publications/reports/aum-
shinrikyo-second-edition-english; và Philipp C. Bleak, “Xem lại Aum
Shinrikyo: Những hiểu biết mới về Chương trình vũ khí sinh học phi nhà
nước quy mô lớn nhất cho đến nay,” Trung tâm Nghiên cứu Không phổ biến vũ
khí hạt nhân James Martin, ngày 10 tháng 12 năm 2011, www.nti.org/analysis/
article/ xem lại-aum-shinrikyo-new-sights-rộng rãi nhất-phi nhà nước-
sinh học-vũ khí-chương trình-ngày-1.

Tại sự nổi tiếng đỉnh cao của Aum Shinrikyo Liên đoàn các nhà khoa học Mỹ,
“Hoạt động của Aum,” trong Phổ biến vũ khí hủy diệt hàng loạt toàn cầu: Một
nghiên cứu điển hình về Aum Shinrikyo, Tiểu ban thường trực điều tra các vấn
đề chính phủ của Thượng viện, ngày 31 tháng 10 năm 1995, irp .fas.org/congress/
1995_rpt/aum/ part04.htm.
Là một báo cáo về những hàm ý của Danzig và Hosford, “Aum Shinrikyo.”
Một số người chắc chắn sẽ nói , ví dụ, Xem Nick Bostrom, “ Giả thuyết thế
giới dễ bị tổn thương,” ngày 6 tháng 9 năm 2019, nickbostrom.com/papers/

vulnerable.pdf , có lẽ là phiên bản phát triển nhất của luận điểm này. Trong
một thử nghiệm tư duy đáp ứng với viễn cảnh về “vũ khí hạt nhân dễ dàng”, anh
ấy đã hình dung ra một “tầm nhìn toàn cảnh công nghệ cao”, nơi mọi người đều
có “thẻ tự do”, “đeo quanh cổ và trang bị máy ảnh và micrô đa hướng. Video và
âm thanh được mã hóa liên tục được tải lên từ thiết bị lên đám mây và được
máy giải thích theo thời gian thực. Các thuật toán AI phân loại hoạt động của
người đeo, chuyển động của tay, các vật thể ở gần và các tín hiệu tình huống
khác. Nếu phát hiện hoạt động đáng ngờ, nguồn cấp dữ liệu sẽ được chuyển tiếp
đến một trong số các trạm giám sát người yêu nước.”
Làn sóng cung cấp cả động cơ Martin Bereaja và cộng sự, “Chế độ chuyên chế AI,”
Tạp chí Kinh tế hàng quý, ngày 13 tháng 3 năm 2023, Academic.oup.com/qje/
advance-article-abstract/doi/10.1093/qje/qjad012/7076890 .

Và về mặt liên tục , Balaji Srinivasan đã thấy trước một điều gì đó rất
giống kết quả này, với nước Mỹ là thây ma, Trung Quốc là con quỷ: “Khi
nước Mỹ rơi vào tình trạng hỗn loạn, ĐCSTQ coi hệ thống tuy có chức năng
nhưng rất không tự do của họ là giải pháp thay thế duy nhất và xuất khẩu
một hệ thống phiên bản chìa khóa trao tay về trạng thái giám sát của họ tới
các quốc gia khác như phiên bản tiếp theo của Vành đai và Con đường, như
một phần 'cơ sở hạ tầng' hoàn chỉnh với đăng ký SaaS cho con mắt AI toàn
diện của Trung Quốc.” Srinivasan, Trạng thái mạng lưới, 162.
Nhà triết học công nghệ Isis Hazewindus, “Mối đe dọa của Megamachine,”
IfThenElse, ngày 21 tháng 11 năm 2021, www.ifthenelse.eu/ blog/the-threat-of-
the-megamachine.
Một cuộc khảo sát về 60 nền văn minh Michael Shermer, “Tại sao ET không
được gọi,” Scientific American, tháng 8 năm 2002, michaelshermer.com/sciam-
columns/why-et-hasnt-gọi.
Không có công nghệ mới Ian Morris, Tại sao phương Tây thống trị—cho thời
điểm hiện tại: Các mô hình lịch sử và những gì chúng tiết lộ về tương lai
(London: Profile Books, 2010); Tainter, Sự sụp đổ của các xã hội phức hợp;
Kim cương, Sụp đổ.
Trong thế kỷ tiếp theo Stein Emil Vollset và cộng sự, “Các kịch bản về khả
năng sinh sản, tỷ lệ tử vong, di cư và dân số cho 195 quốc gia và vùng lãnh
thổ từ năm 2017 đến năm 2100: Phân tích dự báo cho nghiên cứu gánh nặng
bệnh tật toàn cầu,” Lancet, ngày 14 tháng 7 năm 2020 , www.thelancet.com/
article/S0140-6736(20)30677-2/fulltext.

Các quốc gia bao gồm Nhật Bản, Đức Peter Zeihan, Ngày tận thế chỉ là sự khởi
đầu: Lập bản đồ về sự sụp đổ của toàn cầu hóa (New York: Harper Business,
2022).
Trung Quốc là một phần quan trọng Xiujian Peng, “Liệu dân số Trung Quốc có
thể bắt đầu giảm?” BBC Future, ngày 6 tháng 6 năm 2022, www.bbc.com/future/
article/ 20220531-why-chinas-population-is-shrinking.
Tất cả điều này có nghĩa là Zeihan, Ngày tận thế chỉ là sự khởi đầu, 203.
Nhu cầu về lithium, coban “Khai thác thông minh với khí hậu: Khoáng chất
cho hành động vì khí hậu,” Ngân hàng Thế giới, www.worldbank.org/en/topic/
extractiveindustries/brief/climate-smart-mining-minerals-for-climate-action.
Với những hạn chế về dân số và tài nguyên, Galor, Hành trình của nhân loại,
130.
Năm 1955, gần cuối đời John von Neumann, “Chúng ta có thể sống sót với công
nghệ không?” trong Bản tóm tắt Neumann (River Edge, NJ: World Scientific,
1995), geosci.uchicago.edu/~kite/doc/ von_Neumann_1955. pdf.

chương 13: ngăn chặn là có thể
Họ giải thích thế nào về một thời đại David Cahn và cộng sự, “AI 2022: The
Explosion,” Coatue Venture, coatue-external.notion.site/AI-2022- The-Explosion-
e76afd140f824f2eb6b049c5b85a7877.
Như chúng ta đã thấy, ngay cả các quốc gia giàu có “Hồ sơ quốc gia về chỉ số
GHS năm 2021 cho Hoa Kỳ,” Chỉ số an ninh y tế toàn cầu, www.ghsindex.org/
country/united-states.
Tuy nhiên, một danh mục các quyết định tai hại Edouard Mathieu và cộng sự,
“Những cái chết do virus Corona (Covid-19),” Thế giới dữ liệu của chúng ta,
ourworldindata.org/covid-deaths.
Ngân sách quốc gia dành cho những việc như vậy Ví dụ, so với thời kỳ dịch
cúm châu Á năm 1957, ngân sách liên bang của Hoa Kỳ lớn hơn rất nhiều, tất
nhiên là về mặt tuyệt đối cũng như về tỷ lệ phần trăm trong GDP (16,2% so
với 20,8%). Năm 1957 không có Bộ Y tế chuyên trách, và tiền thân của CDC vẫn
là một tổ chức tương đối non trẻ khi mới 11 tuổi. Ferguson, Sự diệt vong,
234.
Đạo luật đầy tham vọng nhất “Đạo luật trí tuệ nhân tạo,”
Viện Tương lai của Cuộc sống, trí tuệ nhân tạoact.eu.
Một số người cho rằng nó quá tập trung. Ví dụ: Xem “Bài viết lập trường của
FLI về Đạo luật AI của EU,” Viện Tương lai của Cuộc sống, ngày 4 tháng 8 năm
2021, Futureoflife.org/wp-content/uploads/2021/08/FLI-Position- Giấy trên-
the-EU-AI-Act.pdf?x72900; và David Matthews, “ Đạo luật trí tuệ nhân tạo

của EU không phải là 'tương lai', các chuyên gia cảnh báo MEP,” Science
Business, ngày 22 tháng 3 năm 2022, Sciencebusiness.net/news/eu-artificial-
intelligence-act-not-futureproof-experts-warn-meps .
Một số người tin rằng nó cho phép công ty công nghệ lớn Khari Johnson, “Cuộc chiến
để xác định khi nào AI có rủi ro cao,” Wired , ngày 1 tháng 9 năm 2021, www.wired.com/
story/fight-to-define-when-ai-is-high -rủi ro.
Chưa hết, 1,35 triệu người “Thống kê an toàn đường bộ toàn cầu,” Brake,
www.brake.org.uk/get-involved/take-action/mybrake/know-centre/global-
road-safety#.
Chính phủ đã ban hành Jennifer Conrad, “Trung Quốc sắp quản lý AI—và thế
giới đang theo dõi,” Wired, ngày 22 tháng 2 năm 2022, www.wired.com/story/
china-regulate-ai-world-watching.
Nó đã chủ động cấm nhiều Christian Smith, “Luật cờ bạc của Trung Quốc
đang ngày càng bị phá vỡ hơn nữa,” SVG, ngày 15 tháng 3 năm 2022,
www.svg.com/799717/chinas-gaming-laws-are-cracking-down-even-further.
Dự thảo quy định khuyến nghị “Internet quốc gia

Quy định quản lý Internet của Phòng Thông tin
Khuyến nghị về thuật toán dịch vụ thông tin (Dự thảo cho
Bình luận) Thông báo lấy ý kiến cộng đồng,” Không gian mạng
Chính quyền Trung Quốc, ngày 27 tháng 8 năm 2021, www.cac.gov.cn/

2021-08/27/ c_1631652502874117.htm.
Nó không mô tả cách các quốc gia Xem, chẳng hạn như Alex Engler, “The
Limited Global Impact of the EU AI Act,” Brookings, ngày 14 tháng 6 năm
2022, www.brookings.edu/blog/techtank/2022/06/14/ hành động-hạn chế-toàn
cầu-của-eu-ai-act. Một nghiên cứu về 250.000 điều ước quốc tế cho thấy
chúng có xu hướng không đạt được mục đích của mình. Xem Steven J.
Hoffman và cộng sự, “Các hiệp ước quốc tế hầu hết không tạo được hiệu
quả như mong đợi,” PNAS, ngày 1 tháng 8 năm 2022, www.pnas.org/doi/
10.1073/pnas.2122854119 .
Bộ não thời tiền sử của chúng ta Xem George Marshall, Don't Even Think
About It: Why Our Brains Are Wired to Ignore Climate Change (New York:
Bloomsbury, 2014), để biết chi tiết về quan điểm này.
Gần đây nhất là vào những năm 1970 Rebecca Lindsey, “Biến đổi khí hậu:
Carbon Dioxide trong khí quyển,” Climate.gov, ngày 23 tháng 6 năm 2022,
www.climate.gov/news-features/under Hiểu-climate/climate-change-
atmospheric-carbon-dioxide.

chương 14: mười bước hướng tới ngăn chặn
Cơ quan Năng lượng Nguyên tử Quốc tế “ Tiêu chuẩn An toàn IAEA,” Cơ quan Năng
lượng Nguyên tử Quốc tế, www.iaea.org/resources/safety-standards/search ? cơ
sở=All&term_node_tid_deep_2=Tất
cả&field_publication_series_inf o_value=&combine=&items_per_page=100.
Người giám sát chính của vũ khí sinh học Toby Ord, The Precipice: Existential
Risk and the Future of Humanity (London: Bloomsbury, 2020), 57.
Số lượng các nhà nghiên cứu về an toàn AI Benaich và Hogarth, Báo cáo tình
hình AI năm 2022.
Dựa trên ước tính số lượng các nhà nghiên cứu AI, Lòng vị tha?,”
"Cái gì Là Hiệu quả

www.performancealtruism.org/articles/introduction-to-effect-altruism#fn-15.
nhìn thấy
Các sứ mệnh ban đầu của Apollo NASA, “Lợi ích từ Apollo: Những bước nhảy vọt
khổng lồ về công nghệ,” NASA Facts, tháng 7 năm 2004, www.nasa.gov/sites/

default/files/80660main_ApolloFS.pdf .
Kevin M. Esvelt, “Trì hoãn, phát hiện, bảo vệ: Chuẩn bị cho một tương lai
trong đó hàng nghìn người có thể gây ra đại dịch mới, ”
Trung tâm Chính sách An ninh Geneva, ngày 14 tháng 11 năm 2022, dam.gcsp.ch/
files/doc/gcsp-geneva-paper-29-22 .
Jan Leike cũng đang thực hiện rất nhiều công việc tuyệt vời , “Alignment
Optimism,” Aligned, ngày 5 tháng 12 năm 2022, align.substack.com/ p/alignment-
optimism.
Nhà khoa học máy tính Stuart Russell Russell, Tương thích với con người.
Điều này có nghĩa là tấn công hệ thống của bạn Deep Ganguli và cộng sự, “Các
mô hình ngôn ngữ hợp tác đỏ để giảm thiểu tác hại: Phương pháp, hành vi mở
rộng quy mô và bài học kinh nghiệm,” arXiv, ngày 22 tháng 11 năm 2022,
arxiv.org/pdf/2209.07858.pdf .
Về mặt kỹ thuật, Sam R. Bowman và cộng sự, “Đo lường tiến độ về giám sát có
thể mở rộng cho các mô hình ngôn ngữ lớn,” arXiv, ngày 11 tháng 11 năm 2022,
arxiv.org/abs/2211.03540.
Hiện tại chỉ có một phần nhỏ Dự án DNA bảo mật, “Đảm bảo công nghệ sinh học
toàn cầu,” SecureDNA, www.securedna.org.
Tập Cận Bình khiến Ben Murphy lo lắng, “Điểm tắc nghẽn: Sự phụ thuộc vào
nhập khẩu công nghệ chiến lược tự xác định của Trung Quốc,” Trung tâm An
ninh và Công nghệ mới nổi, tháng 5 năm 2022, cset.georgetown.edu/publications/
chokepoints .

Quả thực, Trung Quốc chi nhiều hơn Chris Miller, Chip War: The Fight for the
World's Most Critical Technology (New York: Scribner, 2022).
Một giám đốc điều hành công nghệ Demetri Sevastopulo và Kathrin Hille, “Mỹ
tấn công Trung Quốc bằng các biện pháp kiểm soát xuất khẩu công nghệ sâu
rộng,” Financial Times, ngày 7 tháng 10 năm 2022, www.ft.com/content/
6825bee4-52a7-4c86- b1aa-31c100708c3e.
Trong ngắn hạn và trung hạn , Gregory C. Allen, “Ngăn chặn khả năng tiếp cận
tương lai của AI của Trung Quốc,” Trung tâm Nghiên cứu Chiến lược & Quốc
tế, ngày 11 tháng 10 năm 2022, www.csis.org/analysis/choking-chinas-access-
tương lai-ai.
Nếu cần hàng trăm tỷ Julie Zhu, “Trung Quốc sẵn sàng gói 143 tỷ USD cho các
công ty chip của mình trước sự hạn chế của Hoa Kỳ,” Reuters, ngày 14 tháng
12 năm 2022, www.reuters.com/technology/china-plans-over-143- bln-đẩy-tăng-
trong nước-chip-cạnh tranh với-nguồn-chúng tôi-2022-12- 13.
NVIDIA, nhà sản xuất Mỹ Stephen Nellis và Jane Lee, “Nvidia Tweaks Flagship
H100 Chip để xuất khẩu sang Trung Quốc với tên gọi H800,”
Reuters, ngày 22 tháng 3 năm 2023, www.reuters.com/technology/nvidia-tweaks-
flagship-h100-chip-export-china-h800-2023-03-21.
Máy móc của ASML Hơn nữa, không chỉ máy móc mà nhiều bộ phận linh kiện chỉ
có một nhà sản xuất, như các loại máy laser cao cấp
từ Cymer hoặc những tấm gương từ Zeiss tinh khiết đến mức chúng có kích thước bằng
Đức, một chỗ không đều sẽ chỉ rộng vài mm.
Ba công ty này có See, ví dụ, Michael Filler trên
Twitter, ngày 25 tháng 5 năm 2022, twitter.com/michaefiller/status/

1529633698961833984.
Một cuộc khủng hoảng trên đất hiếm “Rủi ro lớn nhất đối với chúng ta nằm ở đâu?”
Nguồn cung cấp tài nguyên khoáng sản?,” USGS, ngày 21 tháng 2 năm 2020, www.usgs.gov/
news/national-news-release/new-methodology-identify-mineral-commodities-
whose-supply-disruption?qt-
news_science_products=1#qt-news_science_products.
Khoảng 80% thạch anh Zeihan chất lượng cao , The End of
thế giới chỉ là sự khởi đầu, 314.
Quả thực, có lúc Lee Vinsel chỉ trích gay gắt: “Bạn đang làm sai rồi:
Ghi chú về Phê bình và Cường điệu Công nghệ,” Medium, ngày 1 tháng 2 năm 2021,
sts-news.medium.com/youre-doing-it-wrong-notes-on-criticism-and-technology-
hype-18b08b4307e5.
Đầy hứa hẹn, nghiên cứu về đạo đức AI của Đại học Stanford Trí tuệ nhân tạo
lấy con người làm trung tâm, Báo cáo chỉ số trí tuệ nhân tạo
2021.

Những thiếu sót lớn Ví dụ, Shannon Vallor, “Huy động nguồn lực trí tuệ của nghệ
thuật và nhân văn,” Viện Ada Lovelace, ngày 25 tháng 6 năm 2021,
www.adalovelaceinstitute.org/blog/ movising-intellectual-resources-arts-humanities.
Thành lập liên minh Kay C. James trên Twitter, ngày 20 tháng 3 năm 2019,
twitter.com/KayColesJames/status/1108365238779498497.
Có nhiều khả năng tích cực về hoạt động kinh doanh tích cực “Quân đoàn B 'Vượt
xa' như bình thường,” B Lab, ngày 1 tháng 3 năm 2023, www.bcorporation.net/en-
us/news/press/b-corps-go-beyond-business- như thường lệ cho-b-corp-tháng-2023.
Mặc dù các công ty ngày nay có “Tài trợ và Hiệu suất Nghiên cứu và Phát triển
Hoa Kỳ: Tờ thông tin,” Dịch vụ Nghiên cứu Quốc hội, ngày 13 tháng 9 năm 2022,
sgp.fas.org/crs/misc/R44307.pdf.
Đầu tư vào khoa học và công nghệ , chẳng hạn, hãy xem Mariana Mazzucato, Nhà
nước khởi nghiệp: vạch trần những lầm tưởng về khu vực công và tư nhân
(London: Anthem Press, 2013).
Nhiệm vụ đầu tiên của họ phải là Những điểm này đã được trình bày rõ ràng trong
Jess Whittlestone và Jack Clark, “Tại sao và như thế nào các chính phủ nên giám
sát sự phát triển AI,” arXiv, ngày 31 tháng 8 năm 2021, arxiv.org/pdf/
2108.12427.pdf.

Năm 2015 hầu như có “Pháp luật liên quan đến trí tuệ nhân tạo,” Hội nghị quốc
gia về cơ quan lập pháp cấp bang, ngày 26 tháng 8 năm 2022, www.ncsl.org/research/
telecommunications-and-information-technology/2020-legislation-rel-to-artificial
-intelligence.aspx.
Cơ quan quan sát chính sách AI của OECD OECD, “Chiến lược và chính sách AI quốc
gia ”, Cơ quan quan sát chính sách AI của OECD, oecd.ai/en/dashboards/ tổng quan.
Năm 2022, Nhà Trắng phát hành “Tờ thông tin: Chính quyền Biden-Harris công bố các
hành động chính nhằm nâng cao trách nhiệm công nghệ và bảo vệ quyền của công
chúng Mỹ,” Nhà Trắng, ngày 4 tháng 10 năm 2022, www.whitehouse.gov/ostp/news- cập
nhật/2022/ 04/10/fact-sheet-biden-harris-administration-announces-key-actions-to-
advance-tech-accountability-and-protect-the-rights-of-the-american-public.
Ngày nay lao động Hoa Kỳ bị đánh thuế Daron Acemoglu và cộng sự, “Thuế, Tự động
hóa và Tương lai của Lao động,” Công việc Tương lai của MIT, mitsloan.mit.edu/
shared/ods/document?
Tài liệu xuất bảnID=7929.
Điều này đôi khi được gọi là Arnaud Costinot và Ivan Werning, “Robot, Thương mại
và Chủ nghĩa giải trí: Phương pháp tiếp cận thống kê đầy đủ đối với quy định công
nghệ tối ưu,” Đánh giá về nghiên cứu kinh tế, ngày 4 tháng 11 năm 2022,
Academic.oup.com/restud/advance-article /doi/10.1093/restud/rdac076/6798670 .

Các nhà kinh tế học của MIT đã lập luận rằng Daron Acemoglu và cộng sự, “Bộ
luật thuế của Hoa Kỳ có ủng hộ tự động hóa không?”, Brookings Papers về hoạt
động kinh tế (Mùa xuân năm 2020), www.brookings.edu/wp-content/uploads/2020/ 12/
Acemoglu-FINAL -WEB.pdf.
Trong kỷ nguyên siêu mở rộng Sam Altman, “Định luật của Moore cho mọi thứ,”
Sam Altman, ngày 16 tháng 3 năm 2021, moores.samaltman.com.
Sử dụng vũ khí laze gây chói mắt “Công ước về một số loại vũ khí thông
thường,” Liên hợp quốc, www.un.org/disarmament/the-convention-on-certain-
conventional-weapons .
Một nghiên cứu ở 106 quốc gia Françoise Baylis và cộng sự, “Chỉnh sửa bộ gen
và dòng gen di truyền của con người: Bối cảnh chính sách toàn cầu,”
Tạp chí CRISPR, ngày 20 tháng 10 năm 2020, www.liebertpub.com/doi/10.1089/
Crispr.2020.0082.
Sau quyết định đầu tiên của Eric S. Lander và cộng sự, “Áp dụng Lệnh tạm dừng
chỉnh sửa bộ gen có thể di truyền,” Nature, ngày 13 tháng 3 năm 2019,
www.nature.com/articles/d41586-019-00726-5.
Vào đầu những năm 2010 , Peter Dizikes, “Nghiên cứu: Du lịch hàng không thương
mại an toàn hơn bao giờ hết,” MIT News, ngày 23 tháng 1 năm 2020, news.mit.edu/
2020/study-commercial-flights-safer-ever-0124 .

Chúng ta đã gặp lại nhau vào năm 2017 “Các nguyên tắc AI,” Viện Tương lai Cuộc sống, ngày
11 tháng 8 năm 2017, Futureoflife.org/open-letter/ai-principles.
Trách nhiệm xã hội và đạo đức Joseph Rotblat, “ Lời thề Hippocrates dành cho
các nhà khoa học,” Science, ngày 19 tháng 11 năm 1999, www.science.org/doi/
10.1126/science.286.5444.1475 .
Bởi vì chúng tôi xây dựng công nghệ , chẳng hạn, hãy xem các đề xuất của
Rich Sutton, “Tạo AI cấp độ con người: Như thế nào và khi nào?”, Đại học
Alberta, Canada, Futureoflife.org/data/PDF/rich_sutton.pdf? x72900; Azeem
Azhar, “Chúng tôi là những người quyết định những gì chúng tôi muốn từ những
công cụ chúng tôi xây dựng” (Azhar, Exponential, 253); hoặc Kai-Fu Lee,
“Chúng tôi sẽ không trở thành những khán giả thụ động trong câu chuyện về AI
—chúng tôi là tác giả của nó” (Kai-Fu Lee và Qiufan Cheng, AI 2041: Mười tầm
nhìn cho tương lai của chúng ta [London: WH Allen , 2021 , 437]).
Truyền thông về AI Patrick O'Shea và cộng sự, “Truyền đạt về ý nghĩa xã hội
của AI: Bản tóm tắt chiến lược của FrameWorks,”
Viện FrameWorks, ngày 19 tháng 10 năm 2021, www.frameworksinst acad.org/
publication/communicing-about-the-social-implications-of-ai-a-frameworks-
strategic-brief.
Nghiên cứu cho thấy rằng khi Stefan Schubert và cộng sự, “Tâm lý về rủi ro
hiện sinh: Những phán đoán đạo đức về sự tuyệt chủng của con người,” Báo
cáo khoa học tự nhiên, ngày 21 tháng 10 năm 2019, www.nature.com/articles/
s41598-019-50145-9.

Trong khi đó, các hội đồng công dân đưa ra cho Aviv Ovadya, “Hướng tới
Nền tảng Dân chủ,” Trung tâm Belfer của Trường Harvard Kennedy, Tháng 10.
2021, www.belfercenter.org/publication/towards-platform- 18,
ocracy-policymaking-beyond-corporate-ceos-and-partisan- Pressure.
Tham khảo các nguyên tắc Asilomar “Tạm dừng AI khổng lồ

Thí nghiệm: Thư ngỏ,” Viện Tương lai Sự sống, 29 tháng 3,
2023, Futureoflife.org/open-letter/pause-giant-ai-experiments.
Đơn khiếu nại chống lại LLM Adi Robertson, “FTC nên dừng lại
Nhóm chính sách AI cho biết OpenAI từ việc ra mắt các mô hình GPT mới,”
The Verge, ngày 30 tháng 3 năm 2023, www.theverge.com/2023/3/30/
23662101/ftc-openai-investigation-request-caidp-gpt-text-Generation-bias.
Một ví dụ điển hình là Esvelt, “Trì hoãn, Phát hiện, Bảo vệ”. Vì
một ví dụ khác về cách tiếp cận toàn diện đối với chiến lược ngăn chặn, xem
Allison Duettmann, “Bảo vệ chống lại các mối đe dọa vật lý: Đa cực
Active Shields,” Foresight Institute, ngày 14 tháng 2 năm 2022,
foresightinst acad.substack.com/p/defend-physical.
Nhà kinh tế học Daron Acemoglu Daron Acemoglu và James

Robinson, Hành lang hẹp: Các quốc gia đấu tranh cho tự do như thế nào
(London: Viking, 2019).
cuộc sống sau nhân loại

Công nghệ nên khuếch đại . Ví dụ: Xem các lập luận như của Divya Siddarth và
cộng sự, “AI khiến chúng ta thất bại như thế nào,” Trung tâm đạo đức Edmond và
Lily Safra, ngày 1 tháng 12 năm 2021,ethics.harvard.edu/how-ai- fails -chúng ta.

MỤC LỤC
Số trang trong chỉ mục này đề cập đến phiên bản in của cuốn sách.
Mỗi liên kết sẽ đưa bạn đến đầu trang in tương ứng. Bạn có thể
cần phải cuộn về phía trước từ vị trí đó để tìm tài liệu tham khảo
tương ứng trên thiết bị đọc sách điện tử của mình.
ABCDEFGHIJKLMNOPQRSTU VW
X Y Z
MỘT
Aadhaar, 126
học viện, 128
khả năng tiếp cận công nghệ mới
AI, 69
phân cấp và, 198
phi vật chất hóa và, 190
kỹ thuật di truyền, 82–83
ứng dụng quân sự và, 106, 126

quyền lực và, 163–64, 198, 199
Acemoglu, Daron, 179, 276, 278
Báo cáo Acheson-Lilienthal, 42
sản xuất phụ gia. Xem in 3-D
Aerorozvidka, 103–4
nông nghiệp
thách thức của, 136–37
biến đổi khí hậu và 138
là công nghệ có mục đích chung, 27
động cơ lợi nhuận và, 133
robot và, 93–94
như làn sóng công nghệ, 28
Đạo luật AI (EU), 229, 260
Cơ sở dữ liệu sự cố AI, 246
khe hở không khí, 241
hãng hàng không, 267–68
AlexNet, 58–59
thuật toán, 63, 114, 247
Alibaba, 66
Allison, Graham, 123

Bảng chữ cái, 128, 256, 257
AlphaFold, 89–90, 109
AlphaGo, 53–54, 113, 117–19, 120
AlphaZero, 54
lựa chọn thay thế, 234
Phòng thí nghiệm Altos, 85
Amazon, 94–95, 189
Trên cảm biến, 166
bệnh than, 174
công nghệ chống lão hóa. Xem các công nghệ kéo dài tuổi thọ
kháng sinh, 36
Táo, 187, 189
Arkhipov, Vasili, 44
hùng biện về chạy đua vũ trang, 124–25, 126–27
Arnold, Pháp, 87
Arthur, W. Brian, 56
trí tuệ nhân tạo (ACI), vii, 77–78, 115, 164, 210
trí tuệ tổng hợp nhân tạo (AGI)
kịch bản thảm họa và, 209, 210
chatbot và, 114

Thành lập DeepMind và 8
định nghĩa, vii, 51
vấn đề khỉ đột và, 115–16
tính chất dần dần của, 75
siêu trí tuệ và, 75, 77, 78, 115
chưa đến, 73–74
trí tuệ nhân tạo (AI)
nguyện vọng cho, 7–8
quyền tự chủ và, 114, 115
làm cơ sở cho làn sóng sắp tới, 55
lợi ích của, 10–11
kịch bản thảm họa và, 208, 209–11
chatbot, 64, 68, 70, 113–14
Sự phát triển của Trung Quốc , 120–21
điểm nghẹt thở, 251
biến đổi khí hậu và 139
ý thức và, 74, 75
mâu thuẫn và, 202
chi phí của, 64, 68
các ứng dụng hiện tại, 61–62

khả năng hiện tại của, 8–9
các cuộc tấn công mạng và, 162–63, 166–67
được xác định, vii
những thí nghiệm đầu tiên vào năm 51–54
hiệu suất của, 68–69
cái tôi và, 140
đạo đức và, 254
giải thích và, 243
tương lai của, 78
sự phổ biến trong tương lai của, 284–85
phạm vi tiếp cận toàn cầu , 9–10
vấn đề ảo giác và, 243
bộ não con người là mục tiêu cố định, 67–68
siêu tiến hóa và, 109
sự tàng hình của, 73
hạn chế của, 73
ứng dụng y tế, 110
ứng dụng quân sự, 104, 165
Thử nghiệm Turing hiện đại , 76–77, 78, 115, 190, 210
tính chất hạn hẹp của, 73–74

khả năng ngắn hạn, 77
công nghệ sử dụng đa năng và, 111, 130
mệnh lệnh cởi mở và, 128–29
tiềm năng của, 56, 70, 135
ưu tiên, 60
động cơ lợi nhuận và 134, 135, 136
sự gia tăng của, 68–69
cấu trúc protein và, 88–89
đội đỏ và, 246
nỗ lực quản lý , 229, 260–61
nghiên cứu không thể đoán trước và, 130
robot và, 95, 96, 98
an toàn và, 241, 243–44
giả thuyết mở rộng quy mô, 67–68, 74
văn hóa tự phê bình và, 270
tuyên bố tình cảm, 72, 75
hoài nghi về, 72, 179
giám sát và, 193–94, 195, 196
sinh học tổng hợp và, 89–90, 109
thất nghiệp công nghệ và, 177–81

Phép thử Turing, 75
Xem thêm làn sóng sắp tới ; học sâu ; học máy
arXiv, 129
Nguyên tắc Asilomar , 269–70, 272–73
ASML, 251
tác động bất đối xứng , 105–7, 234
Atlantis, 5
Chương trình Atmanirbhar Bharat (Ấn Độ), 125–26
chú ý, 63
bản đồ chú ý, 63
kiểm toán, 245–48, 267
Aum Shinrikyo, 212–13, 214
chủ nghĩa độc tài, 153, 158–59, 191–96, 216–17
tự động hoàn thành, 63
khám phá thuốc tự động, 110
tự động hóa, 177–81
quyền tự chủ, 105, 113–15, 166, 234
Tác giả, David, 179
al-Awlaki, Anwar, 171

B
lan truyền ngược, 59
trao quyền cho diễn viên xấu , 165–66, 208, 266
Xem thêm khủng bố
Thân B, 258
Chuông, Alexander Graham, 31
Benz, Carl, 24, 285
Berg, Paul, 269–70
Tập đoàn BGI, 122
thiên vị, 69–70, 239–40
Bioforge, 86
Công ước về vũ khí sinh học, 241, 263
công nghệ sinh học. Xem sinh học tổng hợp
Cái chết đen, 205
Công viên Bletchley, 32
sách, 30
Boyer, Herbert W., 80
Đột phá, 51–52, 113
Brin, Sergey, 53
Công ty Đông Ấn Anh, 186, 189
Nâu, David, 98
Brown, Wendy, 185
C
“Chúng ta có thể sống sót nhờ công nghệ” (Neumann), 221
chi tiêu vốn, 134
Carey, Nessa, 82
Đường cong Carlson, 81
ô tô. Xem xe
Cartwright, Edmund, 282
Cas9, 81
thảm họa, 205–14
ngăn chặn và, 211–12, 214
kịch bản cho, 207–9
chủ nghĩa hoài nghi về, 206–7
trì trệ như, 217–21
giám sát dystopia như, 215–17
Caulobacter ethensis-2.0, 84
Cello, 109
CFC, 45, 46, 263
Charles Martel, 183–84
Thợ mộc, Emmanuelle, 81, 265
chatbot, 64, 68, 70, 113–14
ChatGPT, 62, 65
vũ khí hóa học, 46, 110
hóa học, 98–99
Chernobyl, 45
cờ vua, 53
Trung Quốc
địa chính trị và, 120–24
những nỗ lực ngăn chặn lịch sử của, 39–40
hợp tác quốc tế và, 265–66
Chủ nghĩa Mao, 192
quy định và, 231
lụa và, 41
giám sát, 193–95
Các biện pháp kiểm soát xuất khẩu của Hoa Kỳ và, 249–50
Chinchilla, 68
khoai tây chiên

điểm nghẹt thở và, 249–51
siêu tiến hóa và, 32–33, 57, 81, 108
kích thước của, 67
Xem thêm chất bán dẫn
chlorofluorocarbons (CFC), 35
CICERO, 167
khí hậu thay đổi
nỗ lực ngăn chặn , 45, 46, 263
như thách thức toàn cầu, 137–39
sự hiểu biết phổ biến về, 236
những hậu quả không lường trước được của công nghệ và, 35
đồng hồ, 157
điện toán đám mây, 251
CloudWalk, 194
Cohen, Stanley N., 80
Chiến tranh lạnh
ngăn chặn và, 37
hợp tác quốc tế và, 263, 264
vũ khí hạt nhân và, 42
Sputnik và, 119–20, 126

làn sóng sắp tới
AI bật, 3–4
Tương tác sinh học tổng hợp AI và 88–91
quyền tự chủ và, 105, 113–15
tránh , 12–14
lợi ích của 10, 11, 16, 283
định nghĩa, vii, 7
cái tôi là động lực của, 139–41
những thách thức toàn cầu và, 137–40
chủ nghĩa duy tâm và, 150–51
tính tất yếu của, 142–43, 214, 225
bản chất liên quan đến nhau của, 56–57
sự hiểu biết phổ biến về, 234–36
những câu trả lời có thể có, 11
quyền lực và, 102, 163–64
động cơ lợi nhuận và, 131–36
nghiên cứu không thể đoán trước và, 129–30
thái độ hoài nghi về, 57–58, 72, 102, 179, 206–7
vùng nửa tối công nghệ , 92–93

Xem thêm khả năng tiếp cận công nghệ mới; ưu đãi làn sóng
sắp tới ; công nghệ đa năng
ưu đãi làn sóng sắp tới, 119, 141
địa chính trị, 119–27
thách thức toàn cầu, 137–40, 219
mệnh lệnh cởi mở, 127–29
động cơ lợi nhuận , 131–36, 254–58
quy định và, 231–32
đặc điểm công nghệ sóng tới
tác động bất đối xứng , 105–7, 234
quyền tự chủ, 105, 113–15, 166, 234
ngăn chặn và, 234–35
Xem thêm siêu tiến hóa; công nghệ đa năng
thị giác máy tính, 58–60
tính toán, 32–34
phi vật chất hóa và, 55, 190
siêu tiến hóa của, 108
quy trình sản xuất và, 84
điện toán lượng tử , 97–99, 109, 114, 122

Các biện pháp kiểm soát xuất khẩu của Hoa Kỳ và, 249–50
Hiệp hội, 84
ngăn chặn
kiểm toán và, 245–48, 267
sự khởi đầu của, 272–73
thảm họa và, 211–12, 214
điểm nghẹt thở và, 249–51
mạch lạc và, 275
các nhà phê bình và, 252–54
được xác định, vii, 37–38
các phần tử của, 232–33
vấn đề khỉ đột và, 115–16
vai trò của chính phủ, 258–63
những nỗ lực lịch sử , 38–41, 42–43, 119
Cách mạng công nghiệp và 39, 40, 281–82
cách tiếp cận tích hợp , 228–29
trách nhiệm của nhà sản xuất, 252
như hành lang hẹp, 276–78
nhu cầu, 16, 18–19, 46, 48, 285–86

tắt công tắc và, 244–45
công nghệ sử dụng đa năng và, 111
những hạn chế về mặt tổ chức và, 228
tổng quan, 274–75
mầm bệnh và, 273–74
các phong trào quần chúng và, 271–72
khả năng xảy ra, 278–79
tính toán lượng tử và 98
rủi ro ở, 43–45
an toàn và, 239–43
văn hóa tự phê bình và, 267–70
sự trì trệ làm phương pháp cho, 217–21
giám sát là phương pháp cho, 206, 215–17
đặc điểm công nghệ và, 233–35
Xem thêm quy định về phương pháp ngăn chặn
vấn đề ngăn chặn, vii
Xem thêm ngăn chặn
Công ước về một số loại vũ khí thông thường, 263
Phi công phụ, 69

tập đoàn
Công ty Đông Ấn Anh, 186, 189
quyền lực tập trung và, 187–88, 190–91
ngăn chặn và, 255, 258
phi vật chất hóa và, 189–90
trí thông minh và, 186–87
lợi ích công cộng, 258
vai trò trong làn sóng sắp tới, 134–35
thuế và, 262
Phòng thí nghiệm Cortical, 91
chi phí. Xem chi phí công nghệ giảm
Đại dịch covid-19
thông tin xuyên tạc/thông tin sai lệch và, 172
nghiên cứu về mức tăng chức năng (GOF) và 176
những hạn chế về mặt tổ chức và, 228
giám sát và, 194, 195, 215
Craspase, 82
Crick, Francis, 80
Chỉnh sửa gen CRISPR , 81–82, 86, 129–30
AI phê bình, 244

Đánh giá quan trọng để dự đoán cấu trúc (CASP), 89, 90
Cronin, Audrey Kurth, 106, 127
nỏ, 39, 40
mật mã, 98, 244, 248, 266
Khủng hoảng tên lửa Cuba, 44
Anh họ, Nicolas-Joseph, 23
giáo phái, 212–13
văn hóa, 267–70
tấn công mạng, 160–63, 166–67
D
Daimler, Gottlieb, 24
dữ liệu, sự phổ biến của, 33
phân quyền, 198–99
Xanh đậm, 53
deepfake, 169–71, 172
học kĩ càng
quyền tự chủ và, 113
thị giác máy tính và, 58–60

tiềm năng của, 61–62
giám sát, 65
sinh học tổng hợp và, 90–91
Xem thêm học máy
DeepMind
AGI là mục tiêu của, 8, 51
hùng biện chạy đua vũ trang và, 124
điểm nghẹt thở và, 251
ngăn chặn và, 254, 255–56
Thuật toán DQN, 51–52, 113
hiệu quả và, 68
thành lập , 8, 9
Google mua số 60, 255–57
sự cởi mở bắt buộc và, 128
ứng dụng thực tế và, 61
Xem thêm AlphaGo
Deere, John, 93
Đồng bằng, 104

nhu cầu, 25, 30, 31, 40, 41, 132–33
phi vật chất hóa, 55–56, 189–90, 233
khủng hoảng nhân khẩu học, 219–20
khuếch tán, 30–31
vấn đề nan giải, các, được xác định, vii
Ngoại giao, 167
thông tin xuyên tạc/thông tin sai lệch, 167, 169–73, 208
DJI, 106
Hồ sơ DNA, 81
Tập lệnh DNA, 83
Máy tổng hợp DNA, 12–13
Doudna, Jennifer, 81
DQN (Mạng Q sâu), 51–52, 113
máy bay không người lái, 103–4, 105, 106, 166, 207
công nghệ sử dụng kép. Xem công nghệ đa năng
viễn tưởng, 215–17
VÀ
Đông Đức, 192
eBay, 188–89
bất bình đẳng kinh tế, 153–54
Edison, Thomas, 35
bản ngã, 140–41
điện, 30–31
EleutherAI, 68–69
Elizabeth I (nữ hoàng Anh), 39, 40
Endy, Drew, 84
năng lượng, 99–101, 198
động cơ, 23–25
ENIAC, 32
tổng hợp enzyme, 83, 109
Sử thi Gilgamesh, 5
Mỏng, Kevin, 273
EternalBlue,161–62
thanh lọc sắc tộc, 195
ETH Zurich, 84
Liên minh Châu Âu , 125, 229, 260
sự tiến hóa, 26–27, 79, 84
giải thích, 243
chất nổ, 35, 110

Kiến thức, 110
F
Facebook, 150, 172, 258
phần mềm nhận dạng khuôn mặt, 194, 207
Fakhrizadeh, Mohsen, 165
chế độ phong kiến, 184
Feynman, Richard, 259
hỏa hoạn, 26–27
huyền thoại lũ lụt, 5
tàu con thoi, 39
Ford, Henry, 24
Công ty ô tô Ford, 98
bốn tính năng, được xác định, vii
bộ khuếch đại dễ vỡ. Xem các bộ khuếch đại mong manh của quốc gia
sự phân mảnh. Xem phân cấp
Franklin, Rosalind, 80
giai đoạn điên cuồng, 132
sức mạnh tổng hợp, 100

G
nghiên cứu đạt được chức năng (GOF), 175–77
Mèo, 111
chỉnh sửa gen
Công nghệ CRISPR và, 81–82, 86, 129–30
vấn đề đạo đức, 86
Genentech, 80
công nghệ đa năng
như chất gia tốc, 92
sự tập trung của công ty và, 190–91
được xác định, 26
động cơ đốt trong như, 25, 26
sự tàng hình của, 27
đa dụng và, 111
AI sáng tạo, 69, 73
Xem thêm các mô hình ngôn ngữ lớn
tổng hợp gen , 83–84, 247–48

sinh vật biến đổi gen (GMO), 45, 46, 231
kỹ thuật di truyền
khả năng tiếp cận và, 82–83
ngăn chặn và, 46, 265, 269–70
giải trình tự bộ gen, 80–81, 114
nguồn gốc của, 80
Xem thêm chỉnh sửa gen ; sinh học tổng hợp
di truyền học, 55
Xem thêm sinh học tổng hợp
Thành Cát Tư Hãn, 205
giải trình tự bộ gen, 80–81
địa chính trị
AlphaGo và, 117–19, 120
hùng biện về cuộc chạy đua vũ trang và, 124–25, 126–27
Trung Quốc và, 120–24
như khuyến khích làn sóng sắp tới, 119–27
Liên minh Châu Âu và, 125
Ấn Độ và, 125–26
thế giới hậu có chủ quyền và, 192
Sputnik và, 119–20
chỉnh sửa dòng mầm, 265
GitHub, 128–29
Gladstone, William, 131
thách thức toàn cầu, 137–40, 219
toàn cầu hóa, 107, 155–56
sự nóng lên toàn cầu. Xem biến đổi khí hậu
Đi, 53–54, 113, 117–19, 120
Google
sức mạnh doanh nghiệp, 187
Mua DeepMind , 60, 255–57
hiệu quả và, 68
LaMDA và, 71, 72
mô hình ngôn ngữ lớn và, 66
điện toán lượng tử và, 97–98, 122
robot và, 95
trên máy biến áp, 64
Học giả Google, 128

Chuột túi, 68
vấn đề khỉ đột, 115–16
chính phủ
hạn chế về tổ chức của, 148–50
Xem thêm các quốc gia
GPS (Hệ thống định vị toàn cầu), 110
GPT-2, 64, 70
GPT-3, 64, 68
GPT-4, 64, 113–14
GPU, 130, 251
món hời lớn, được xác định, viii
Nước Anh
tập đoàn và, 186, 189
giám sát, 193, 195–96
cạnh tranh quyền lực lớn. Xem địa chính trị
Gutenberg, Johannes, 30, 35
H
Cúm H1N1 , 173–74
vấn đề ảo giác, 243
Viện Harvard Wyss, 95
Hassabis, Demis, 8
chăm sóc sức khỏe. Xem ứng dụng y tế
Henrich, Joseph, 28
Quỹ Di sản, 257
Hershberg, Elliot, 87
Hezbollah, 196–97
Hidalgo, César, 108
lập kế hoạch phân cấp, 76–77
Hinton, Geoffrey, 59, 60, 130
Vụ đánh bom ở Hiroshima/Nagasaki, 41–42
Hobbes, Thomas, 216
Con người công nghệ, 6
Ôm Mặt, 199
Dự án bộ gen người, 80–81
Huskisson, William, 131
Hutchins, Marcus, 161
siêu tiến hóa, 105, 107–9
chip và, 32–33, 57, 81, 108

mô hình ngôn ngữ lớn và, 66, 68
TÔI
Ấn Độ, 125–26, 169–70
Cuộc cách mạng công nghiệp
nỗ lực ngăn chặn , 39, 40, 281–83
động cơ lợi nhuận và, 133, 134
làn sóng công nghệ và, 28–29
giam giữ quán tính, 100
Biến AI, 66, 68, 243, 244
thông tin
phi vật chất hóa và, 55–56
DNA như, 79, 87–88
Viện Kỹ sư Điện - Điện tử, 241
mạch tích hợp, 32
Sự thông minh
hành động và, 75–76
các tập đoàn và, 186–87

giá trị kinh tế của, 136
vấn đề khỉ đột, 115–16
dự đoán và, 62
Xem thêm trí tuệ nhân tạo
sự liên kết với nhau, 28
Ban liên chính phủ về biến đổi khí hậu, 138–39
động cơ đốt trong , 24–25, 26, 35–36
Cơ quan Năng lượng Nguyên tử Quốc tế, 241
hợp tác quốc tế, 263–67
internet, 33, 107–8, 202
iPhone, 187
Iran, 165
Israel, 165
J
James, Kay Coles, 257
Nhật Bản, nỗ lực ngăn chặn, 39, 40
việc làm, tác động của công nghệ lên, 177–81, 261, 262
Vòng xuyến chung châu Âu, 100

K
Kasparov, Garry, 53
Kay, John, 39
Ke Jie, 118–19, 121
Kennan, George F., 37
Keynes, John Maynard, 178
Khan, AQ, 45
Khrushchev, Nikita, 126
Kilobot, 95
Klausner, Richard, 85
Krizhevsky, Alex, 59
Kurzweil, Ray, 57
L
rò rỉ phòng thí nghiệm , 173–75, 176
thị trường lao động , 177–81, 261, 262, 282
LaMDA, 71–72, 75
Lander, Eric, 265
ngôn ngữ, 27, 157

Xem thêm các mô hình ngôn ngữ lớn
LanzaTech, 87
mô hình ngôn ngữ lớn (LLM), 62–65
thiên vị , 69–70, 239–40
khả năng của, 64–65
deepfake và, 170
hiệu quả của, 68
nguồn mở và, 69
tỷ lệ , 65–66
sinh học tổng hợp và, 91
vũ khí laze, 263
thực thi pháp luật, 97–98
Liban, 196–97
LêCun, Yann, 130
Lee Sedol,53–54,117
Lay, Shane, 8
pháp luật, 260
Xem thêm quy định về phương pháp ngăn chặn
Lemoine, Blake, 71–72
Lenoir, Jean Joseph Étienne, 23

Lý, Phi Phi, 59
chủ nghĩa tự do, 201
Thư viện Alexandria, 41
cấp phép, 261
sản xuất lithium, 109
Hệ thống LLaMA, 69
Xưởng đúc DNA Luân Đôn, 83
công nghệ kéo dài tuổi thọ, 85–86
Người Luddite, 39, 40, 281–83
M
học máy
thiên vị , 69–70, 239–40
thị giác máy tính và, 58–60
các cuộc tấn công mạng và, 162–63, 166–67
ứng dụng y tế, 110
ứng dụng quân sự và, 103–5

robot và, 95
học sâu có giám sát, 65
sinh học tổng hợp và, 90–91
Xem thêm học sâu
Macron, Emmanuel, 125
Malthus, Thomas, 136
Dự án Manhattan , 41, 124, 126, 141, 270
Chủ nghĩa Mao, 192
Mao Trạch Đông, 194
Marcus, Gary, 73
Maybach, Wilhelm, 24
McCarthy, John, 73
McCormick, Cyrus, 133
ứng dụng y tế, 85, 95, 110
máy lớn, 217
Megvii, 194
Meta, 69, 128, 167
Micius, 122
Microsoft, 69, 98, 128, 160–61

ứng dụng quân sự
AI và, 104, 165
sự bất đối xứng và, 106
học máy và, 103–5
bộ khuếch đại mong manh của quốc gia và 167–69
công nghệ sử dụng đa năng và, 110–11
robot và, 165–66
Minsky, Marvin, 58, 130
thông tin sai lệch. Xem thông tin xuyên tạc/thông tin sai lệch
Mitchell, Melanie, 73
Người mẫu T, 24
Thử nghiệm Turing hiện đại , 76–77, 78, 115, 190, 210
Mojica, Francisco, 129–30
Nghị định thư Montreal (1987), 45, 263
Moore, Gordon, 32–33, 35
Định luật Moore , 32–33, 67, 81, 108
Ôtô, 24
Mumford, Lewis, 29, 217
sự hủy diệt được đảm bảo lẫn nhau, 43

N
công nghệ nano, 101
con đường hẹp, xác định, viii
Phòng thí nghiệm Khoa học Thông tin Lượng tử Quốc gia (Trung Quốc), 122
bộ khuếch đại mong manh quốc gia, vii, 11
AI và, 166–67
chủ nghĩa độc tài và, 158–59
trao quyền cho diễn viên xấu và, 165–66, 168
các cuộc tấn công mạng và, 160–63
nền dân chủ và, 158, 185
thông tin sai lệch và, 169–73
sự mong manh và, 152–54
toàn cầu hóa và, 155–56
vô tình, 173–77
ứng dụng quân sự và, 167–69
sức mạnh và, 163–64
thất nghiệp công nghệ và, 177–81
quốc gia-dân tộc

bất bình đẳng kinh tế và, 153–54
trạng thái cân bằng của, 147
chức năng của 158
tầm quan trọng của, 151–52
cộng sinh công nghệ với, 156–58
tin tưởng và, 152–53
Xem thêm địa chính trị; các chính phủ; bộ khuếch đại mong manh của
quốc gia
Liên kết thần kinh, 91
mạng lưới thần kinh, 59, 64
Xem thêm học sâu
1984 (Orwell), 196
Nobel, Alfred, 35
Nordhaus, William, 30–31
Bắc Triều Tiên, 44, 161
NotPetya, 161–62, 163
Noyce, Robert, 32
công nghệ hạt nhân
hùng biện chạy đua vũ trang và, 126

thảm họa và, 205
ngăn chặn , 42–45, 264–65
sự phát triển của, 41–42
cái tôi và, 141
an toàn và, 241
NVIDIA, 130, 250, 251
Odin, 82
khả năng tấn công và phòng thủ, 157, 234
cuộc sống ngoài lưới điện, 198
công tắc tắt, 244–45
công nghệ đa dụng, 105, 110–12
AI và, 111, 130
quyền lực và, 182
OpenAI,62,64,69,251
mệnh lệnh cởi mở, 127–29

thuốc phiện, 36
Oppenheimer, J. Robert, 140
vấn đề tối ưu hóa, 98
những hạn chế về mặt tổ chức, 148–50, 228
Orwell, George, 196
Otto, Nicolaus, ngày 23 tháng 8
Đế quốc Ottoman, 38, 40
P
Pakistan, 45
PaLM, 66, 68
đại dịch, 205, 209, 243, 273–74
Xem thêm đại dịch COVID-19
Phan Kiến Vệ, 122–23
Hiệp định Paris , 45, 46, 263
Hiệp ước cấm thử nghiệm một phần (1963), 42–43
Hợp tác về AI, 246
hệ thống bằng sáng chế, 127
mầm bệnh

nghiên cứu đạt được chức năng (GOF), 175–77
rò rỉ phòng thí nghiệm , 173–75, 176
PayPal, 188–89
bình duyệt, 128
Pelosi, Nancy, 170
Perez, Charlotte, 29, 132
ác cảm bi quan, viii, 13–14, 102, 236, 253
công nghiệp hóa dầu, 87
Máy bay trực thăng 4 camera ảo, 106
lừa đảo, 171
máy quay đĩa, 35
tự sửa đổi về mặt thể chất, 86, 200
Pi, 243
Bệnh dịch hạch Justinian, 205
Plato, 5
PlayStation 2, 110–11
vắc xin bại liệt, 263
phân cực chính trị, 155
phong trào quần chúng, 271–72
quy mô dân số
cuộc khủng hoảng , 219–20
làn sóng công nghệ và, 27–28
chủ nghĩa dân túy, 153
thế giới hậu chủ quyền
chủ nghĩa độc tài và, 185, 191–92
mâu thuẫn và, 202–4
các tập đoàn và, 186–89
phân cấp và, 198–99, 200–202
các nền dân chủ và, 185
thanh lọc sắc tộc và, 195
các thực thể lai và, 196–97
quyền lực và, 184–85
giám sát và, 193–96, 206
quyền lực, 102
bộ khuếch đại mong manh của quốc gia và, 163–64
thế giới hậu có chủ quyền và, 184–85
máy dệt điện , 282–83

in ấn, 30, 35, 38–39, 40, 157
động cơ lợi nhuận, 131–36
tăng sinh, 30–31, 32–34
AI và, 68–69
tính tất yếu của, 40–41, 47
nếp gấp protein, 88–90
Proteus, 94
Nghị định thư về vũ khí laser gây mù (1995), 263
tập đoàn công ích, 258
Putin, Vladimir, 125
điện toán lượng tử , 97–99, 109, 114, 122
Chi tiêu R&D , 129, 134, 259
phân biệt chủng tộc, 69, 239–40
đài phát thanh, 157
đường sắt, 23, 131–32

phần mềm tống tiền, 160–62
Reagan, Ronald, 201
Phòng thủ nổi loạn, 166
đội đỏ, 246
Cải cách, 35
công nghệ tái tạo, 85
quy định như phương pháp ngăn chặn, 225–26
thách thức của, 226–27, 229–30
pháp luật và, 260
cấp phép và, 261
các quốc gia và, 230–31
sự cần thiết của, 277
văn hóa tự phê bình và, 269
học tăng cường , 95, 117, 166–67, 240
Xem thêm học máy
Robot Remotec Andros Mark 5A-1, 97–98
Phục hưng, 201
năng lượng tái tạo, 100–101
Restrepo, Pascual, 179
hiệu ứng trả thù , 36, 176, 177

Nhẫn, 227
Chỉnh sửa RNA, 82
Robinson, James, 276, 278
người máy, 93–97
Sự phát triển của Trung Quốc, 122
ứng dụng quân sự, 165–66
sinh học tổng hợp và, 109
Rogers, Everett, 56–57
Rotblat, Joseph, 270
Russell, Stuart, 115, 244
Dịch cúm Nga, 173–74
Nga xâm lược Ukraine, 44, 103–4
Rutherford, Ernest, 41
S
Tập đoàn Samsung, 188
Sanofi, 110
SARS, 174–75
giả thuyết mở rộng quy mô, 67–68, 75

Schneier, Bruce, 167
Schumpeter, Joseph, 29
Cách mạng khoa học, 35, 127
SecureDNA, 247, 265
xe tự lái, 113
chất bán dẫn, 32, 84, 249–50
SenseTime, 194
Khiên AI, 166
lụa, 41
Ca sĩ, Isaac, 133
Điểm kỳ dị, 74
Xem thêm siêu trí tuệ
điện thoại thông minh, 33, 60, 112, 187
Hãy mỉm cười, Vaclav, 138
Snowden, Edward, 122
truyền thông xã hội
thông tin sai lệch và, 172
quốc gia-dân tộc và, 155, 156

hiệu quả tổ chức và, 150
năng lượng mặt trời , 100, 198
Dung dịch, 86
Hàn Quốc, 188
Liên Xô , 171–72, 192
mảnh vụn không gian, 36
du hành vũ trụ, 122
SpaceX, 104
Chim sẻ, 95
tốc độ. Xem siêu tiến hóa
Sputnik, 119–20, 126
Tính ổn định AI, 199
Khuếch tán ổn định, 69
trì trệ, 217–21
Liên kết ngôi sao, 104
huyền thoại khởi nghiệp, 141
động cơ hơi nước, 23, 131
Stephenson, George, 131
bàn đạp ngựa, 183–84
công cụ bằng đá, 26

siêu trí tuệ, 74–75, 77, 115
giám sát
kiểm toán và, 248
chứng loạn thị và, 215–17
thế giới hậu có chủ quyền và, 193–96, 206
quy định và, 228
kháng cự , 277–78
Sutskever, Ilya, 59
robot tràn ngập, 95–96
Máy biến áp chuyển mạch, 68
Sycamore, 122
sinh học tổng hợp
AI và, 89–90, 109
kiểm toán và, 247–48
kịch bản thảm họa và, 208–9
máy tính và, 87–88
các ứng dụng hiện tại, 84–85
phân cấp và, 200
học sâu và 90–91
đã xác định, viiii

phát triển của, 55
sức mạnh của, 56
động cơ lợi nhuận và, 134
nghiên cứu không thể đoán trước và, 129–30
Xem thêm làn sóng sắp tới ; chỉnh sửa gen
phương tiện tổng hợp , 169–71, 172–73
Synthia , 84
sinh học hệ thống, 85
Szilard, Leo, 41
T
thuế, 261–62
thất nghiệp công nghệ , 177–81, 261, 262, 282
công nghệ
được xác định, viii, 26
thất bại của, 18

bản chất liên quan đến nhau của, 56–57
sự phụ thuộc của xã hội vào, 218–19
cộng sinh với các quốc gia-dân tộc, 156–58
sự phổ biến của, 235–36
hậu quả không lường trước được của, 35–36
Xem thêm đặc điểm công nghệ sóng tới; công nghệ cụ thể
chi phí công nghệ giảm
AI và, 64, 68
tính toán, 108
ngăn chặn và, 39, 43, 233–34
kỹ thuật di truyền, 80, 81, 83, 84
giải trình tự bộ gen, 81
quyền lực và, 102
sự tăng sinh và, 31
robot, 95, 96
sóng công nghệ , 6, 16, 25–26
gia tốc của, 28–29, 92
khuếch tán và, 30–31
sự tiến hóa và, 26–27

tất yếu của, 29, 47
tàng hình của, 27, 73
tài liệu và, 54–55
tăng sinh và, 32–34
từ chức tới, 47
không thể đoán trước được, 29
đô thị hóa và, 27–28
điện thoại, 31
truyền hình, 157
khủng bố, 44–45, 160–62, 207, 212–13
Thiel, Peter, 201
In 3-D ( sản xuất bồi đắp), 96, 109, 166, 190
Tilly, Charles, 157
Tiwari, Bàn tay, 169–70
Toffler, Alvin, 29
mã thông báo, 63
chủ nghĩa toàn trị. Xem chủ nghĩa độc tài; giám sát
tối ưu hóa giao thông, 98
người ghi chép, 88
máy biến áp, 64, 90–91

bóng bán dẫn, 32–33, 67
Hiệp ước không phổ biến vũ khí hạt nhân (1968), 43, 263
Sa hoàng Bomba, 42 tuổi
Đại học Thanh Hoa, 121
TSMC, 251
Turing, Alan, 35, 75
23andMe, 81
2001: Cuộc phiêu lưu không gian, 110
TRONG
Thanh lọc sắc tộc Duy Ngô Nhĩ, 195
Ukraina, 44, 103–4, 161–62
Máy hủy bom, 213
Hoa Kỳ
kiểm soát xuất khẩu, 249–50
giám sát, 195
thu nhập cơ bản phổ quát (UBI), 262
Đại học Oxford, 101
Urban II (giáo hoàng), 39

đô thị hóa, làn sóng công nghệ và, 27–28
Cơ quan An ninh Quốc gia Hoa Kỳ (NSA), 161
TRONG
xe cộ
tác động bất đối xứng và, 107
động cơ đốt trong và, 24–25
quy định của, 229–30
Venter, Craig, 84
Giải pháp cảnh giác, 196
virus, 173–75, 209, 273–74
von Neumann, John, 141, 221, 222
TRONG
Walmart, 95–96
WannaCry, 160–61, 163, 166
Watson, James, 80
Watson, Thomas J., 32
WaveNet, 61
sóng, viii, 5–6, 16
Xem thêm làn sóng công nghệ
Chúng tôi (Zamyatin), 196
vũ khí
AI và, 165
ngăn chặn và, 39, 40, 263
quốc gia-dân tộc và, 157
bàn đạp và, 183–84
Xem thêm các ứng dụng quân sự; công nghệ hạt nhân
bánh xe, 28
Văn phòng Chính sách Khoa học và Công nghệ Nhà Trắng, 260
Wilkins, Maurice, 80
Người chiến thắng, Langdon, 156
Thế chiến thứ nhất, 110, 205
Thế Chiến II, 32, 42, 126, 205, 264
viết, 27, 28, 156–57
X
Tập Cận Bình, 121, 122, 123–24, 249
VỚI
Zamyatin, Yevgeny, 196
Trương, Phong, 265
ABCDEFGHIJKLMNOPQRSTU VW
X Y Z
GIỚI THIỆU VỀ TÁC GIẢ
Mustafa Suleyman là người đồng sáng lập và CEO của Inflection
AI. Trước đây anh là người đồng sáng lập DeepMind, một trong
những công ty AI hàng đầu thế giới. Sau một thập kỷ làm việc
tại DeepMind, Suleyman trở thành phó chủ tịch quản lý sản
phẩm AI và chính sách AI tại Google. Khi còn là sinh viên đại
học tại Oxford, Suleyman đã bỏ học để thành lập một dịch vụ
tư vấn qua điện thoại phi lợi nhuận. Anh ấy sống ở Palo
Alto, California.
Michael Bhaskar là một nhà văn và nhà xuất bản có trụ sở tại
Vương quốc Anh. Ông là tác giả của The Content Machine,
Curation và Human Frontiers.
Điều tiếp theo trong
danh sách đọc của bạn là gì?
Khám phá bài đọc tuyệt vời
tiếp theo của bạn !
Nhận các lựa chọn sách được cá nhân hóa và tin tức cập nhật về tác
giả này.
Đăng ký ngay.

2 The Coming Wave - Technology, Po - Mustafa Suleyman Michael Bhaska

Uploaded by

Document Information

Original Title

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

2 The Coming Wave - Technology, Po - Mustafa Suleyman Michael Bhaska

Uploaded by

Copyright:

Available Formats

Machine Translated by Google

phát động trong nội bộ Google để loại bỏ cô.

người trong số họ có thể chia sẻ quan điểm này.

một cách thường xuyên .

có thể đáp ứng tốt hơn thách thức ngăn chặn.

năng xảy ra hơn. Đây là loại thử nghiệm cần thiết.

6. CHÍNH PHỦ: Tồn tại, cải cách, điều

những thất bại và cải thiện.

như một phần của gói.

hồi của nhà nước.

nhiều ý tưởng hay.

thể làm điều này một mình.

7. LIÊN MINH: THỜI GIAN KÝ HIỆP ƯỚC

laze chói mắt.

xăng; và chấm dứt amiăng.

điều kiện và thách thức cụ thể mà cả hai

cải thiện nó—và nhanh chóng.

8. VĂN HÓA: TÔN TRỌNG

KIẾM ĐƯỢC THẤT BẠI

có thể diễn ra.

9. PHONG TRÀO: SỨC MẠNH NHÂN DÂN

trình của Internet.

10. CON ĐƯỜNG Hẹp: CON ĐƯỜNG DUY NHẤT

bệnh riêng biệt được thiết kế để gây ra tối đa

7. Liên minh: Tạo lập hệ thống hợp tác quốc tế để

bao giờ kết thúc.

Liệu có thể ngăn chặn làn sóng sắp tới?

bước sai lầm là sẽ rơi xuống vực thẳm.

cuộc cách mạng này đang thất bại vì nó.

XXI là điều có thể thực hiện được.

đó sẽ trở thành ngọn lửa thay đổi dữ dội.

CUỘC SỐNG SAU KỲ ANTHOPOCENE

cắp nhân phẩm của họ và tước đi lối sống giàu có.

ngành dệt may, thì đó là một thảm họa.

đẩy mạnh chiến dịch.

trong thế kỷ XXI.

trong thế kỷ này và hơn thế nữa.

dài và an toàn của loài quý giá của chúng ta.

Điều đó đáng để đấu tranh.

thực của mình trên toàn bộ cuốn sách.

trang web the-coming-wave.com/bibliography.

Chương 1: Không thể ngăn chặn được

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

chương 2: sự phát triển vô tận

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN

ĐẾN GHI CHÚ THAM KHẢO TRONG VĂN BẢN