さて,2014年7月4日に,株式会社InnoBetaさんの主催で,『第2回 スマホUXラボ「ユーザーテストLive! 見学会~異文化コミュニケーション系Androidアプリ~」』が開催されましたので,参加してきました.
スマフォアプリ開発をしているわけではないのですが,一般論的なユーザーテストに関しての勉強にもなると思ったので行ってみた次第です.
イベント概要
- 日時:2014/7/4 19:30〜
- 会場:GREEの9階セミナールーム
- 参加費:3000円(2人同時申し込みなら2000円/人)
- 講師:樽本徹也さん
- 内容:実際に公開されているAndroidアプリである「Taptrip」(奇兵隊さん)のユーザテストを生で行い観察する
- 参加者:実際のスマホアプリエンジニアが多かったみたいです.ゼミごと先生が連れてきたらしい学生さんもいらっしゃいました.
当日の流れ
- まず,GREEさんでのユーザーテストの取り組みの紹介
- ライブの説明from樽本さん
-
ユーザーテストライブ×3スロット
- 被験者1
- 被験者2
- 被験者3
- QA
- クロージング
題材アプリ:Taptripについて
海外の写真&世界中の外国人との会話を楽しむならTaptrip
ということで,世界中の人の投稿した写真を見ることができ,またコメントなどは自動翻訳されるというSNSアプリ.
詳細はhttp://kiheitai.co.jp/service/をご覧ください.
実験条件
- 被験者は実際のユーザ層を想定して,21〜23歳の学生を男女3名
- GREEのインターン学生に募集をかけてもらったとのことで,関係者でも何でも無い模様
-
端末は被験者の私物(Android)
- 機種なりOSバージョンなりは全く無制限の模様
- アプリのIDとパスワードは用意されたものだそうです
- セミナールームとは別室で,モデレータさんと被験者の1:1でテストを行う
- セミナールームへは遠隔で端末を映した映像と被験者の音声のみ流す
イベント中の記録
主にTwitter上でつぶやいてましたので,自分のツイートと,気になった他の人のツイートを貼ります.
オープニングセッションでのGREEさんの事例
- 完全に自前でやってます
-
10営業日(2週間)を単位として回している
- 序盤に4日ぐらい使って被験者選定
- パイロットテスト
- 本番テスト
- 分析
-
被験者を常に数百人プールしている状態
- すげえな・・・
-
分析は,横軸に被験者,縦軸にタスクをとった大きな表形式で行う
- 画面遷移がわかるように,付箋?にスクショを印刷している
- これを壁一面にぶわーっと貼る
- 樽本さんも感心
- 画面遷移が多いなら,特に有効でしょうなー
被験者1
ユーザーテストライブ始まりました!しょっぱなから出るわ出るわ
すごいなー今の時点で何個問題見つかったやら。この短時間で #uxlive2
— 東京の名古屋のおさかな (@sakanazensen) 2014, 7月 4
参加者さんからはこういうコメントも
実際の片手持ちと全くユーザビリティの異なるテストでは? #uxlive2
— smsmsm (@smsmsm1977) 2014, 7月 4
というのも,テストブースはこういう構成になっています.
PCの向かい側にユーザーさんが座り,端末を操作する形です.
端末の画面とユーザの操作を同時にカメラで撮影する都合上,どうしても端末は固定せざるを得ません.
となると普段と異なる人差し指操作を強いることになってしまうわけです.
この辺り,なにかいい方法論はあるんですかね.
画面は画面キャプチャで,ユーザ自体はちょっと引いたところからカメラで撮影する…とかいう方法も不可能ではないでしょうが,あまり意味がない気もします.
GoProで撮影すれば?という意見も出ていましたけど,無理でしょう.見る側が100%酔いますw
あるいは,そもそも気にする必要が実はなかったりするかもしれないですね.
もうちょっと勉強してみます.
そうこうしてるうちに,この被験者さん序盤はあんまりコメントないなと思っていたのですが・・・
テストが進むにつれてユーザーさんざっくばらんなコメントをしてくれるようになってる。テスト序盤にはダミーのようなテストをしてアイスブレイクすることって効果的かも。 #uxlive2
— 東京の名古屋のおさかな (@sakanazensen) 2014, 7月 4
被験者1の振り返り中
被験者1は,画像の表示が遅い点が気になる旨をコメントしていました.
開発者によると,ちょうど負荷が高まる時間帯とのことw
また,長いリストでのミスタッチが目立ったようでした.
これに対して,樽本さんのコメント.
スピードは重要。指は太い。googleのデザインガイドラインは全体的に小さめ、iOSのはそれよりは大きい。 #UXLive2
— 東京の名古屋のおさかな (@sakanazensen) 2014, 7月 4
被験者2
こんどは女性の被験者.
タスクがわからなくて全くどうにもならない状態になって数分,「えっわからないんですけど(;_;)」状態でした.
被験者1さんはいとも簡単にクリアしていたのですが,人がかわれば違う問題が出てくるものですねー.
さっきの被験者が普通にクリアしたタスクが全くできないことで新しい問題が明らかになった。けど、ここまでわからなくても助け舟出さないんだw #UXLive2
— 東京の名古屋のおさかな (@sakanazensen) 2014, 7月 4
それにしてもモデレータさんが助け舟出さなさ過ぎて大丈夫なのかなと思っていた.これに対しては気になったのでQAで質問しました.
タスク設計に関しては,このようなコメントも.
機能ベースではなくユーザーニーズに基づいたタスクベースの方がテストはうまく行くかと。「ホームに戻る」ってどういうシチュエーションって話 #UXLive2
— sho otani (@ozu_syo) 2014, 7月 4
開発者がユーザーテストしようとすると,どうしても機能網羅に目がいっちゃって,あんまり現実的でないユーザーストーリー(ユースケース)をテストに落とし込みそうだなーと思いました.
機能網羅に重点を置いたタスク設定はあんまりイケてない、のかもな。 #uxlive2
— 東京の名古屋のおさかな (@sakanazensen) 2014, 7月 4
今回のテストに関して個別のユースケース設定がどうなのかは論じれない(アプリを使い込んでないので)ですが,今後自分がやる機会があれば気をつけないといけないなと思った次第です.
被験者3
次の被験者さんはなかなかユニークな方でした.
タスク設定を越えて,結構楽しくアプリを操作していました.
その過程で,ユーザビリティの低い部分に早くも慣れてしまったりと,これもこれで発見になるようなかんじでした.
アイルランドは肉体美。インドはコメントがわかりやすい。www ともあえユーザさんが楽しくなってきて遊んでいる。これは素直なコメント得るにも効果的かも。 #uxlive2
— 東京の名古屋のおさかな (@sakanazensen) 2014, 7月 4
あるタスクのとき,被験者さんは「あ,これはFacebookのホームみたいなかんじなんですかね」というコメントをされていました.
このユーザさんは別サービスのアナロジーを活かしてインタフェースを理解しようとしてる面があるのでこのことは生かせそう。 #uxlive2
— 東京の名古屋のおさかな (@sakanazensen) 2014, 7月 4
Q&A with 樽本さん
4人分ぐらいのQAコーナーがありました.
僕は(時間がないのに空気を読まず)2つの質問をしました.
Q:ModeratedとUnmoderatedの使い分けは?
- Moderated: モデレータがユーザが躓いた場合に助け舟を出す
- Unmoderated: 出さない
回答は,一言でどっちが,というには難しそうでした.
- 基本的にはModeratedがいいでしょう
- パイロットテスト,つまりテストのためのテストという段階では,Unmoderatedがいいです
-
アプリの性質にもよります
- 例えば○○を買ってください,とか言うようなタスク達成型ならUnmoderatedでもいいかもだけど,
- 今回みたいなコミュニケーション型だったらModeratedのほうがいいのかも
moderatedとunmoderatedの使い分けはテスト対象プロダクトの性質にもよるし、例えばテスト設計段階でunmoderatedにして本番にmoderatedするとか。 #uxlive2
— 東京の名古屋のおさかな (@sakanazensen) 2014, 7月 4
Q:パイロットテストの知見は使わないというのはなぜ?
質問の趣旨は,
- 講師さんは,「今回のはパイロットテストという扱いなので,ちゃんとしたユーザーテストは今度5人ぐらいでやります」とおっしゃっていた
- 個人的には,今回のテストでかなりの問題点が洗い出せたと思っている
- その知見を使わないのはもったいなくない?
これに対しては,樽本さんは
-
テストそのものが未完成だから
-
タスクや説明文も不十分
- このようなユーザーストーリーでいいか?を見極める必要がある
- 今回もタスク説明書の表記ゆれのせいでユーザが混乱していましたしね
-
被験者も未完成
- 一般にパイロットテストでは社内の人など,ユーザーテストには不十分な人を使う
-
タスクや説明文も不十分
とは言え,同時に
- 本番ユーザーテストで同じ問題が得られたら,結論を補強するための裏付けに使う
- 特に今回のに関しては,十分使える知見だと思いますよ,とのこと
ともおっしゃっていました.
パイロットテストの3人と本番テストの5人は明らかに実験条件が違うので,
厳密な分析のためには当然別扱いする必要があるでしょうし,
3人のパイロットテストで多くの知見が得られたからと言って,本番テスト2人で5人分!なんてことはありませんし.
あとは,理由としてこれもあるみたいですね.
UI由来の問題とタスク(の説明)由来の問題、ときには切り分けが難しそうだな #uxlive2
— 東京の名古屋のおさかな (@sakanazensen) 2014, 7月 4
クロージング
ユーザーテストは自分たちでやる!!
あと,被験者選定も大事なので,こういう配慮も必要ですね.
モニターとインタビュアーは外部にお願いしている。フルスタックで外注するよりはずっと安価にできるし、効果の出ないユーザーテストのせいでの機会損失よりずっといいので #UXLive2
— sho otani (@ozu_syo) 2014, 7月 4
所感・雑感
内容に関して
- 全体的に,楽しかったです
- 技術者は自分の感覚でよかれと思ったものを作ってしまうので,間違いを間違いと認めるにはこうやって現実を見せつけるしかないですね
-
テスト中に聴衆の方が結構笑っていたんですが,そのことを問題視する声を複数耳にしました
- 人ごとと思ってるんじゃないの,ということかな
- 単純にユーザの言動がおもしろい(インドはマッチョ,とか),あるいは「うわー
あるあるだわー」っていう苦笑いだったりとかなら,何も態度として問題はない気がします
- 一方で,「これはアプリのUIがひどいだろw」みたいな笑いだったら,ちょっと自戒するようにしたほうがいいですよね
- ま,態度の問題なんで,どうでもいいかなと思っています.
イベント全体に関して
-
ちょっと時間が短かったのと,知識ベースを共有したうえでライブに移ればなお効果的だったのではと思った
- 個人的には,1時間ぐらい前座として樽本さんのご講演があると完璧だったかも
- とは言え,平日の夜に行うという都合上難しい話ですね
自分の業務にどう活かすか?
_(⌒i_ _/ーソノ-ヽ (|> < |) (O人 (王| ̄ ̄ ̄ ̄| (⌒( ヲ見せられ| / ̄ ̄|ないよ!| ∧ ○|____| /  ̄/ ̄く `/ /~ ̄) ノ (__ノ (__)