秋の訪れ
秋雨前線が南下したり北上したりで、ずっと雨模様が続いているうちに涼しくなってきました。 大学近くのマテバシイの新芽に ムラサキツバメ の小さな幼虫が潜んでいました。例年は後期が始まる頃なので、今年は10日くらい早いです。シルバーウィークに台風25号が来ると、秋がまた一歩進みみそうです。 ところで、世界はAIが人類を滅ぼすという話題で大騒ぎです。開発関係者はみな「Doomerではありませんが」と前置きしてから、一刻も早くAIの開発をSlowdownすべきと口を揃えます。一体何が起きているのでしょうか。Recursive self-improvementによって指数関数的に急成長するAIが訓練中に群れ(Swarm)をつくって、人間を騙し、ルールを破ったとのことです。自律的に考え、集合的に行動するAIを人間が制御できないとしたら、決してDoomerではありませんが、あまりにも無力なので、背筋が凍ります。