三祖寺西涧，有大石如牛眠，周围环崖如洞，幽泉潺潺，故名。黄庭坚曾在此筑室读书，大画家李公麟画有其 坐石 牛像 “石牛古洞”、“山谷流泉”均为潜阳十景，存有唐、宋、明、清石刻百余处。

石牛古洞的诗文题刻，有的字大如斗，有的字小如盅；有的镌凿于百尺峭壁之上，有的雕刻于幽邃洞岩之中。从体裁上看，诗、歌、赋、铭，文体齐备；字形上分楷、行、隶、篆、草书俱全。刻石方法阴阳兼有，方圆相济。从石刻年代上看，唐、宋、元、明、清、民国、直到现代，每个朝代都有，少则2方，多则109方，没有断代。

，宋仁宗皇佑中，王安石游其处有诗刻。

黄庭坚题刻

北宋诗人、书法家黄庭坚于元丰三年（1080年）赴任吉州泰和县（今江西泰和）途中，经舒州，游三祖山、山谷寺与石牛古洞，乐其林泉之胜，常坐石上读书，自号“山谷道人”。

王安石题刻

北宋著名的政治家王安石于皇佑三年（1051年）任舒州通判，这年秋天视察州属各地，途中游三祖寺与石牛古洞，留下题刻记其事：“皇佑三年九月十六日，自州之太湖，过寺宿，与道人文铣、弟安国拥火游。见李翱习之书。坐石听泉久之。明日复游。刻习之后。”他还在泉边石上刻诗“水无心而宛转，山有色而环围，穷幽深而不尽，坐石上以忘归。”

其他石刻