$解:(1)设《周髀算经》的单价是x元，则《孙子算经》的 单价是\frac{3}{4}x元，\ $
$根据题意，得\frac{600}{\frac {3}{4}x}-\frac{600}{x}=5，解得 x=40.\ $
$经检验，x=40是所列方程的解，且符合题意.\ $
$∴\frac{3}{4}x=\frac{3}{4}×40=30.\ $
$故《孙子算经》的单价是30元，《周髀算经》的单价是40元$
$(2)设购买m本《孙子算经》，则购买(80-m)本《周髀算经》，$
$根据题意，得80-m ≥\frac{1}{2}m，解得m≤\frac{160}{3}.\ $
$设购买这两种图书共花费w元，\ $
$则w=30×0.8m+40×0.8(80-m)，\ $
$∴w=-8m+2560.\ $
$∵-8＜0，$
$∴w随m的增大而减小.$
$又m≤\frac{160}{3}，且m为正整数，\ $
$∴当m=53时，w取得最小值，\ $
$此时80-m=80-53=27.\ $
$故当购买53本《孙子算经》27本《周髀算经》时，总费用最少.$
