この問題は知識と、膨大な計算量をどれぐらいの速さで処理できるかで差がつきます。
長すぎて読み疲れるので、説明の途中で合同や相似の証明はしません。ザックリ解説になりますがご了承下さい。
$y=2x^2$は今後、$f(x)$とし、$y=-x\sqrt{3}-a$ は今後、直線$l$とさせていただきます。
面積を出すためには$a$の値が分からないといけません。ここで、$f(x)$と$l$が接していることを用います。一点でしか交わらないということは、$f(x)$と$l$を連立たときに解が一つしかないということです。解が一つしかないということは解の公式において、√の中身が0になるということです。この時点で高校の範囲が出てきましたが、早慶付属入試では当たり前に出題されます。したがって、$\sqrt{b^2-4ac}=0$となるので、$f(x)$=$l$を連立して$a、b、c$にそれぞれの値を代入すれば
$a$=$\frac{3}{8}$
になります。切片がわかったのでBOの長さは$\frac{3}{8}$だとわかります。
あとは$l$にy=0を代入すれば良いです。そうすると$x=-\frac{\sqrt{3}}{8}$が出てきます。これは$A$のx座標であるため、$OA=\frac{\sqrt{3}}{8}$
角AOBは90°なので、$\frac{3}{8}$×$\frac{\sqrt{3}}{8}$×$\frac{1}{2}$=$\frac{3\sqrt{3}}{128}$
この問題のポイントは角度です。√3が出てくるので、特別な三角形の比である$1:2:√3$を思い出してほしいです。角AOBは90°、AO:OB=1:√3より、角OABは60°だとわかります。そして、円の性質より、AとO‘を結べば線分O’Aは角OABの二等分線になります。よって角O‘AA’は30°になります。A‘は円O’の接点より、角O‘A’O=90°。したがってAA‘:A’O‘=√3:1となります。円O’の中心のx座標は$\frac{39\sqrt{3}}{8}$であることから、A‘のx座標も$\frac{39\sqrt{3}}{8}$になります。したがってOA’=$\frac{39\sqrt{3}}{8}$です。AA‘はAO+OA’なのでAA‘=$\frac{\sqrt{3}}{8}$+$\frac{39\sqrt{3}}{8}$=5√3
三角形の比よりO‘A’(半径)は5である
こちらは説明がめんどくさいので図を活用していきます。
図より、四角形BPC‘O’は正方形だとわかります。したがって円周角の定理より、角B‘A’C‘は45°。
三角形A‘OO’≡三角形B‘OO’より、角A‘O’B‘は120°。円周角の定理より、角A’C‘B’は60°。
ここでも三角形の比が登場します。円O‘の半径は5なのでOB=5、三角形OB’C‘は直角二等辺三角形より、OB’:B’C‘=1:√2。よってB‘C’は5√2。
ここからが早慶だなという部分です。似たような問題も慶應で出されていましたね。下の図をご覧ください。
図を見ればわかるので、この問題の解説は以上です。
これも図を活用します。まず知っておきたいのが、「ある一次関数に垂直な一次関数を決定する方法」です。例えば$y=ax+b$があるとします。これに垂直な式は$y=-\frac{1}{a}x-c$です。つまりは変化の割合を掛け合わせた場合$-1$になれば2つの一次関数は垂直になります。この問題の場合、$l$の変化の割合は-√3なので$m$の変化の割合は$\frac{\sqrt{3}}{3}$になります。よって、$m:y=\frac{\sqrt{3}}{3}x+b$(bは切片)であるとわかります。あとは切片の$b$がわかればクリアです。一つ座標を求めて、x、yの値を$m$に代入して$b$の値を求めたいと思います。座標を求める方法は以下の図をご覧ください。

新たにQを決めて、座標が出ました。これを$m$の式に代入して、$b = -\frac{80\sqrt{3}+237}{24}$
よって、$y=\frac{\sqrt{3}}{3}x-\frac{80\sqrt{3}+237}{24}$