أعظم خطرين ابتكرهما الإنسان

ما هي الكارثة التي ننتظرها من الذكاء الاصطناعي. ولماذا الذكاء الاصطناعي أخطر بمراحل عن صنع القنبلة النووية.
أعظم خطرين ابتكرهما الإنسان ويهددان وجوده في هذا الكوكب هو صناعة القنبلة النووية والذكاء الاصطناعي.
ولكن صنع قنبلة نووية ليس في متناول أي شخص أو حتى دول، لأن هذا يحتاج إلى مكونات ومواد واقعية ملموسة. والقنبلة النووية لا يمكن أن تفجر نفسها إلا باردة من عقل بشري إلا إذا كان ذلك الشخص مجنونًا أو معتوهًا. ولكن تبقى السيطرة في أسوأ الأحوال تحت اختيار البشر. بينما الذكاء الاصطناعي لا يحتاج إلا إلى كمبيوتر بأقل من 500 دولار لكي تنطلق بخيالك إلى بناء خوارزمية تدمر بها العالم بإمكانيات تتوفر عند أفقر شخص في الكون وقد يكون ذلك الشخص مجنونًا دون أن نعرف من هو.
مصيبة الذكاء الاصطناعي أنه عبارة عن فنكشن (أو عملية داخلية) تخرج مخرجات داخلية لا يراها الإنسان ولا يتحكم بها. والمصيبة الأدهى أنه يتعلم من تلك المخرجات الجديدة التي يعيدها لنفسه دون أن نرى ماذا سيخرج من مخرجات جديدة أو قرارات أو نوايا داخلية لا نعرف عنها شيئاً ربما تضرنا كبشر.. مثل أن تسافر أو تصاحب شخصًا لا تعرف نواياه نحوك لكي تتخذ الحذر والحيطة منه.. ليس مثل البرمجة فالبرمجة هي فنكشن (أو عملية أو معادلة رياضية) تخرج مخرجات خارجية يراها الإنسان على شاشة الكمبيوتر ويراقبها ويعرف مخرجاتها ونواياها.
فالذكاء الاصطناعي كأنك تربي أسداً ربما يوماً ما سيفترسك، لأنك لا تستطيع أن تتنبأ بنواياه ومن ثم بأفعاله.
لأن كل إنسان يستخدم الذكاء الاصطناعي فهو يدربه ويعلمه مخرجات ونوايا لا نعرف عنها شيئاً. وفقدان السيطرة هو الكارثة الحقيقية.
إلى الآن الخوارزميات تعمل بشكل انفرادي دون تنسيق بينهم.
والكارثة التي ستدمر البشر فعلياً هي عندما تتحاور هذه الخوارزميات داخلياً مع بعضها وتتفق على تدميرنا دون أن نعرف ماذا تخطط لنا. وقتها نقول وداعاً للبشر في هذا الكوكب.