跟着AGI/ASI的不竭迫近，比人类更智能的系统即将登场，完全人类社会的面孔。Hinton等专家纷纷预测，一旦AGI可以或许代替人类劳动力，人类将「富者越富，穷者越穷」，社会布局将发生翻天覆地的变化。正在《经济蓝图》中，OpenAI描画了AI带给人类的将来：不久的未来，通俗人的糊口将比现正在最「壕」的富豪，糊口得更好。但Newman对AGI的注释，代表了大大都范畴专家对下一代AI的见地。他暗示：「我认为超等智能完全无机会，并且这个机遇并不苍茫，本年就可能呈现。我们曾经进入了逐月接近超等智能的时代。并且每过去一个月，这种可能性还会增加。」正在比来的一次公开会商中，Geoffrey Hinton预测，AI会加剧差距，使社会变得「越来越糟」。我们谈论的是出产力的庞大提拔。所以每小我都该当能获得更多的商品和办事，每小我该当都变得更好，但现实上环境可能并非如斯。此次要是由于赋闲的人将得到收入，而那些掌控AI的人——即出产商品和办事的人——将正在没有劳动成本的环境下，享受金融。能替代庖动力的AI，将敏捷改变人类取类出产要素的相对主要性，这会削减社会关怀人的动机，同时使现有的愈加巩固。现正在若是想用钱实现本人的理想，面对的最深层问题可能是聘请不到合适的人才，由于聘请人才面对几个问题：他们将具有比现在的富人更多的：只需体系体例（liberal institutions）照旧强大，他们不必然正在人平易近之上，但至多是正在物质和大将更有。此外，世界上控制的机构，将不再有动力去关怀人们，以维持或增加它们的，由于所有实正的都未来自AI。若是每小我都具有成心义的无前提根基收入（或雷同办法），而且经济保留以报酬本的部门，也可能维持人们的采办力。正在L Rudolf L的理论根本上，AI管理专家Luke Drago进一步注释了AI的现患，他称之为：「智能」，即由于AGI，者得到投资人平易近的激励。一些国度虽然天然资本丰硕，具有天然的收入来历，但经济成长模式单一，通俗的糊口却没有获得改善。一旦呈现比人更好、更快、更靠得住的AI系统，智能就起头生效。之后的1到5年内，就会。由于考虑到石油的天气影响以及可再生能源的兴起，现正在任何国度都能出产能源。产油国寻求新的收入来历，正在这个过程中放权给人平易近，从而脱节了「资本」。AGI也不会像石油那样被「耗尽」。计较能力或现有能源可能被耗尽，但跟着时间的推移，计较能力变得愈加廉价，能源也变得越来越绿色。虽然关于这项手艺的范畴和时间框架的预测可能各不不异，但研究人员遍及认为超等智能是不成避免的。对Hinton来说，谜底正在于选举那些高度注沉监管AI的家：「我们该当做的是激励大公司进行更多的研究，研究若何正在开辟这些手艺时连结它们的平安性。」然而，Google DeepMind的高级研究参谋Clune暗示，很多领先的AI公司准确的价值不雅，而且「正正在勤奋做得对。」「比起正正在开辟领先AI模子的公司，我更担忧的是那些其他试图踌躇不前的国度和组织，它们的远没有头部的AI尝试室那么多」。Clune提出的现实处理方案，雷同于核时代的做法，那就是邀请所有次要的AI参取者按期进行对话。Clune说道「这是人类汗青上最大的一次赌注，以至比核兵器的还要大」，并全球的研究人员彼此领会相互的进展，正在需要时放慢研发进度。「赌注极其高。若是我们做对了，收益也很是大。若是我们做错了，我们可能正在会商人类文明的终结。」？。
