Crawler
web上のdataを取得し、databaseを自動生成するprogramのこと
別名としてbot・spider・robotがある
利用例は
検索engine(例:Google検索)のdatabase/indexの作成
統計調査
crawlerは「起点となるweb page」からpage linkを使って他のweb pageを見つけ、広くdataを収集する