それでは、杉野が甘粕の特務機関でどんな仕事をしていたのかだが、この様な話も伝わっている。
終戦間近の昭和20年6月10日に、奉天駅の駅長室で杉野と4時間にわたり会談したという航空兵団所属の第三航空情報隊の他谷岩佐氏（当時、陸軍准尉）によると、杉野は満州事変以来、甘粕正彦の下で特務機関に所属しており、宣撫工作や情報収集を担当していたらしい。ちなみに、北満地区つまり新京から北方は、かの児玉誉士夫が担当していたというのだ。
他谷氏の記憶では、この時の杉野は白髪の老人ながら身長は170センチ位はあったというが、他の目撃者の証言では背の低い小柄な老人という形容がほとんどであり、体格に関しては一致していない。しかし、この様に杉野が甘粕の特務機関にいたという証言は多くあるのだ。
日露戦争後、満州国在住の邦人、特に軍人たちを中心に情報源の不確かな未確認情報ながら、杉野兵曹長が生存しているという話はかなり広まっていたらしい。
松尾則夫氏が大分県立芸術短期大学の初代学長だった足達益三氏から聞いた話では、昭和14年の夏頃、奉天の第二中学校で時局講演会が開催されて、杉野兵曹長が講演したというのだ。その内容についてはハッキリとはしないが、「自分は旅順では死ななかった。ロシアの魚雷が福井丸に命中した時の爆風で海に投げ出されたところを中国人漁師に助けられた。その後は、満州の旅順の近郊に住んでいた・・・。」と杉野は語っていたという。
また錦西陸軍燃料廠（満州国建国後、日本軍は錦西に石油精製工場を建設）に所属していた中野薫氏と甲斐暎一氏他の二名は、近隣の葫蘆島（錦西）に杉野兵曹長が住んでいるとの噂話を聞きつけて、杉野の住居らしき場所を訪ねたそうである。
そこで、杉野とおぼしき老人に、「あなたは、あの杉野兵曹長ですか?」と尋ねたところ、特に返事は無かったというが、しかしその老人は、敢えて否定もしないといった様子で黙っていた感じがしたそうだ。中野氏は直ちに肯定するよりも、黙して語らずの彼の姿の方がよほど真実味があると思ったそうである。
終戦後の1946年から1947年にかけては、新聞やニュース映画などで『杉野兵曹長生存説』がいくつか報じられたようだ。
そのほとんどが満州から帰国した邦人の話として、「爆発により海に投げ出された後、漂流していたところを助けられ、帰国しようとしたが軍神扱いされて帰るに帰れず、そのまま現地に定住した」というものである。
先ずは昭和21年12月1日付の朝日新聞の記事に、以下の様なものがある。
昭和21年10月21日に佐世保に引揚げて来た福井県武生町平出出身の元羅南師団の軍属であった神川房治氏と神川氏の小隊長であった森川章氏によると、錦西の収容所で内地への帰還が決まった日に、大隊長の佐久間節曲氏と中隊長の杉山俊氏から聞いた話として、杉野と会ったということを知らされたという。
杉野は「旅順港に向う途中砲弾のために閉塞船福井丸のデッキからはねとばされ海中に転落、波に流されているうち中国人に救われた、帰りたくとも内地では余りに英雄扱いしているので帰ることもならず、中国人になり切って生活していたが、時代が変った今なら帰れると思ってやって来た。」と語ったそうだ。更に杉山氏の話によると、杉野兵曹長はすぐにでも後続の復員船で内地に帰る、と言っていたとのことだった。
一方、朝日新聞の記者が、杉野兵曹長の実家である三重県川辺郡栄村の磯山に、杉野の長男で元海軍大佐の杉野修一氏宅を訪れると、富美夫人がこの生存説を真向から否定したという。修一氏も信じられないとして疑問を呈し、父親の存命を願いたい気持ちはあるが俄かには肯定出来ないと語尾を濁したという。