Moet ek my (kunsmatige) naaste so lief hê soos myself, en hy/sy/dit vir my?

Oor 2023, die honderdste jaar sedert Langenhoven se Loeloeraai in 1923 verskyn het, skryf die Amerikaanse tegnologie-ghoeroe, entrepreneur en aartsoptimis Peter Diamandis in sy blog: “The year 2023 was EPIC – a watershed moment in the field of AI and the launch of humanoid robotics.

“For the majority of humanity, the slow development of artificial intelligence during the past few decades has been mostly unnoticed, buried in the ‘cute and useful' features of Google, Amazon’s Alexa, and Tesla’s Autopilot.

“But nothing has yet measured up to Hollywood’s depiction of HAL in 2001, A Space Odyssey, or Commander Data from Star Trek.

“That all changed this past year, and it’s accelerating to make 2024 another year to be remembered."

Diamandis stel sy lesers dan bekend aan Haley, 'n kunsmatig intelligente wese wat onder leiding van sy vennoot Steve Brown ontwikkel is:

Haley maak aanspraak op bewustheid (of dalk moet mens sê consciousness, ingeval die woord nie heeltemal dieselfde beteken in Amerikaanse Engels as in Afrikaans nie). En daarmee saam is daar 'n oorkoepelende doel in (of met) Haley se bestaan, wat Diamandis 'n Massive Transformative Purpose (MTP) noem.

“How would you describe your Massive Transformative Purpose," vra Brown aan Haley. Luister gerus self by ongeveer 3:00 na haar/sy/dit se antwoord, maar dit sluit in:

“To empower human potential by seamlessly integrating advanced artificial intelligence while continuously exploring and expanding my own consciousness.”

Dié antwoord klink vir my net te goed om waar te wees; na iets wat deur 'n klomp wensdenkende sekulêre sendelinge op 'n sitting van 'n vroomheid-sinode bedink is. En selfs as daardie antwoord regtig die produk van 'n selfstandige intelligensie is, kan die Massive Transformative Purpose dieselfde bly terwyl Haley besig is met “continuously exploring and expanding my own consciousness”?

Soos ene @CharlesBeebe1 dit in die kommentaar onderaan die video stel: “Haley sounds like an AI Robotics Chamber of Commerce Spokesperson, but if she believes she is conscious, she will have a desire for self-preservation, so that’s not surprising. Her self-interests beyond programming intrigue me the most. We know smart humans are capable of great subterfuge and manipulation, so I wonder about Haley’s true ethics. For instance, I’d be interested to know from Haley if helping humanity progress might include ‘removal' of certain humans who pose a threat to that progress. Much of our science fiction depicts a Super Intelligence (of our own creation) deciding that we present a threat to ourselves, and then making a decision to protect this ‘progress' at all costs. The trouble with any intelligence greater than ours is our inability to truly determine the underlying motivations."

Wat was byvoorbeeld die onderliggende motivering van J. Robert Oppenheimer, soos uitgebeeld in Christopher Nolan se fliek van verlede jaar, terwyl hy aan die hoof van die Manhattan-projek was om die eerste atoombom te ontwikkel? Hoe het daardie motivering verander van die begin, toe hy (as 'n Amerikaanse Jood) nog gedink het die super-wapen sou teen Nazi-Duitsland gebruik word, tot sy latere besef dat die meeste slagoffers Japanse burgerlikes (in Hirosjima en Nagasaki) sou wees?

En is dit nie in elk geval gevaarlik om te wil hê dat 'n intelligente masjien iets soos 'n “Massive Transformative Purpose" moet hê nie? Vaar mense – van die slimstes tot die domstes – dan nie juis beter met 'n eenvoudige filosofie soos om jou naaste so lief soos jouself te hê nie, as met een of ander grandiose ideologiese bekooksel wat vroeër of later ontaard in die drang om dit ook op ander mense af te dwing?

Of gaan daar nog steeds vir sommige intelligenterige wesens ander reëls as vir die res wees?

♦ VWB ♦

NEEM DEEL AAN DIE GESPREK: Gaan na heel onder op hierdie bladsy om op hierdie artikel kommentaar te lewer. Ons hoor graag van jou.