难道不要求A是正规的吗？

你的命题是不对的。
而且"那么A的算子范数等于|(Ax,x)|在单位球上的上界"这个定义和通常的定义是不一样的。比如欧式空间，A是旋转90°。按照你的定义，A的范数是0。但是按通常的定义A的范数是1。
所以你的题目里|(Ax,x)|应该改成|(Ax,Ax)|，现在你可以试一下证明了。