1921年（大正10年）、大河内は請われて理化学研究所の第三代所長に就任した。東京帝大教授、貴族院議員との兼務だった。
初期の理化学研究所（1920年代頃）
左は1号館、右が3号館。（理化学研究所所蔵）
理化学研究所は、1917年に財団法人として設立された。ジアスターゼやアドレナリンの発見で知られる高峰譲吉や初代帝大化学科教授の桜井錠二らが中心となって、渋沢栄一を後盾に大隈重信に進言し、岩崎（三菱）、三井など財界の寄付も集めて、「産業の発達を図る為、純正科学たる物理学および化学の研究を為し、同時にその応用方面の研究を為す」ことを目的に、東京・文京区駒込に発足した。
初代所長には帝大総長、文部大臣を歴任した菊池大麓が就いた。物理部長には、土星型原子模型を提唱した長岡半太郎、化学部長には、「うまみ」の成分がグルタミン酸ソーダであることをつきとめた池田菊苗が就任。ビタミンB1（オリザニン）発見者の鈴木梅太郎、KS鋼発明者の本多光太郎など、そうそうたるメンバーがそろった。翌年、大河内も研究員に名を連ねた。
しかし、理化学研究所は最初からつまづいた。就任5カ月で菊池が急死し、第二代所長に土木の長老・古市公威が就いたが、第一次大戦後の不景気で予定した基金が集まらなくなった。物理と化学の研究者の対立も表面化し、1921年、古市は健康問題を理由に辞任した。
第三代所長の選考は難航した。そこで所内に目が向けられ、爵位をもつ貴族院議員の大河内に白羽の矢が立った。このとき、43歳であった。
