Die Kirche wurde im 18. Jh. über einer Krypta aus dem 13. Jh. erbaut. Zwar überstand sie das Große Feuer, nicht aber die Bomben im Jahr 1941. St. Olaf wurde 1953 restauriert. Die Kirche hat einen norwegischen Schutzpatron, den hl. Olaf (995-1030), König und Märtyrer, der die Dänen in der Schlacht an der London Bridge bekämpfte. Die weißen Wände heben die gotischen Steinbögen und die Grabdenkmäler aus dem 16. bis 18. Jh. hervor. Die Krypta ist ein Überrest der Kirche aus dem 13. Jh.