Re: [ja-discuss] 2.3のQAに向 けて

2007-07-18 スレッド表示 Masahisa Kamataki
鎌滝です。

At Wed, 18 Jul 2007 09:43:10 +0900 (JST),
Maho NAKATA wrote:

> > ただ、やはり手を動かす時間が多く(ひとつのプラットフォームに対して大体3-
> > 4時間くらいは拘束されたように記憶しています)リリース前に行うテストとし
> > ていくつかのプラットフォームでテストするにはヘビーかなぁと感じました。
> 
> 昔l10n cwsのテストにも参加したことがわたしもありますが、
> 同じ気分です。TCMはいわゆる初心者には取っつきやすいんですが、拘束されて、
> テスターがものすごく疲弊するんですよね。

1プラットフォームだけなら、そんなに疲れる作業ではなかったですよ。拘束
時間はかかりますが、以前QAのTCMを試した際、わたしはPCでテレビを見てい
るので、夕食後はおなじデスクトップでダラダラとチェックをしました。

参考になれば。

-- 
M.Kamataki
http://nstage.ddo.jp/pukiwiki/index.php?OpenOffice.org
http://nstage.ddo.jp/pukiwiki/index.php?KNOPPIX

-
To unsubscribe, e-mail: 
[メールアドレス保護]
For additional commands, e-mail: 
[メールアドレス保護]



Re: [ja-discuss] 2.3のQAに向けて

2007-07-17 スレッド表示 Maho NAKATA
From: matuaki 
<[メールアドレス保護]>
Subject: [ja-discuss] 2.3のQAに向けて
Date: Tue, 17 Jul 2007 18:48:30 +0900

> 「テストとは、エラーを見つけようとしながら、プログラムを実行する過程である」
yes.

> と言う表現があり、この観点からすれば、今回はこのテストでルビに関係する不
> 具合も見つかりましたので、成果があったと言えるかと思います。
great!

> ただ、やはり手を動かす時間が多く(ひとつのプラットフォームに対して大体3-
> 4時間くらいは拘束されたように記憶しています)リリース前に行うテストとし
> ていくつかのプラットフォームでテストするにはヘビーかなぁと感じました。

昔l10n cwsのテストにも参加したことがわたしもありますが、
同じ気分です。TCMはいわゆる初心者には取っつきやすいんですが、拘束されて、
テスターがものすごく疲弊するんですよね。
だからVCLTesttoolも候補に入れたい。

> もしQAの指針と適合しているのであれば、現在の2.3devバージョンでTCMテスト
> を行なって、リリース前のrcに対してはtesttoolを走らせて、エラーの数などで
> リリースを判断するというようになれば、いいかなぁと思ったりします。また
> testtoolのスクリプトは既知の不具合についてはスキップしたりして、エラーに
> カウントされないようになっているので(たぶん)、不具合が既知のものかどう
> かを判断するのも楽かもしれません。

ここらへんはまたテスターのみなさんでIRCでコンセンサスを得ましょう。
testtoolはStarOffice用でありますので、多少問題がありますが、
エラーの数等はあまり気にしなくても良いと思います。だからだいたい
走ったらそれでいい。これでも多くのことがテストできる!

ちなみにQAAutomation IRC meetingでは
http://wiki.services.openoffice.org/wiki/QAAutomationIRCMeetings
(jogiがどっかにlogをやったな..) Hamburgでは
SRC680m50 のを使っているらしい。でも、
 However, there are problems with the m50 Testtool on newer linuxes, 
for an currently unknown reason i had to move to a newer build.

 1. you are on solaris 10 or 11 where you have the to use a newer one, 
like the current src680m219 which has other problems.

 Again: Outcome of 3rd point was to use testtool m50 on all platforms 
except for Solaris 10 and 11. Mac uses the latest and greatest. Agreed ?

Linux版は動かないことが合ったり、少し混乱してるようです。
ですが、僕自身は、これにはあまり大きな問題がないと思います。Solaris10/11/Macでは新しいやつ
で動くものを使えばいいといっている。動く環境があればSRC680_m50のを使えば良い。
http://qa.openoffice.org/ooQAReloaded/AutomationTeamsite/ooQA-TeamAutomationBin.html

> あと今回は、rc2の段階でTesttoolを4回(6回だったかも)走らせて結果を提出
> して「よしっ!」と思っていたらrc3が出た、という時がありまして、rc3のテス
> トは一度くじけそうになったので、そのあたりのも何か決まっていればいいか
> と思いました。たとえば、さまざまなプラットフォームで行う最終のリリース用
> のテストは英語版のリリースを確認してから行なうというのはどうでしょうか。

それについてはIRCの議題でしたよ。コンセンサスがえられなかったのです。
僕自身はRC1でokayならばRC2でもokay.としました。これはmatuakiさんと
同じ理由であります。

ただどんなCWSがインテグレートされたかというのにもよります。
昔SUNがRCだかbetaの間にデカいCWSをいれて非常に問題になりましたが
今ではsecurity fix位だと思いますのであまり問題にならないと思います。
RC7まで出たときもあります。これはQAを壊すのかとか思いました。

とにかく重複したテストは止める方向で、テスターが疲れない方向にもってゆかないと
と思ってます。

これもIRCの議題にしましょう。
では。
-- Nakata Maho 
([メールアドレス保護])

-
To unsubscribe, e-mail: 
[メールアドレス保護]
For additional commands, e-mail: 
[メールアドレス保護]



[ja-discuss] 2.3のQAに向けて

2007-07-17 スレッド表示 matuaki
matuakiです。

今後に向けてさらに質の良い、また迅速にリリースへつなげられるQAとなればと
思い、2.2.1のQAに参加した感想等書かせていただきたいと思います。

今回の2.2.1のQAではTCMのsanityテストが使われました。初めてでしたが手動で
のテストを行なって勉強になりました。あるQAの本によると、

「テストとは、エラーを見つけようとしながら、プログラムを実行する過程である」

と言う表現があり、この観点からすれば、今回はこのテストでルビに関係する不
具合も見つかりましたので、成果があったと言えるかと思います。


ただ、やはり手を動かす時間が多く(ひとつのプラットフォームに対して大体3-
4時間くらいは拘束されたように記憶しています)リリース前に行うテストとし
ていくつかのプラットフォームでテストするにはヘビーかなぁと感じました。


もしQAの指針と適合しているのであれば、現在の2.3devバージョンでTCMテスト
を行なって、リリース前のrcに対してはtesttoolを走らせて、エラーの数などで
リリースを判断するというようになれば、いいかなぁと思ったりします。また
testtoolのスクリプトは既知の不具合についてはスキップしたりして、エラーに
カウントされないようになっているので(たぶん)、不具合が既知のものかどう
かを判断するのも楽かもしれません。


あと今回は、rc2の段階でTesttoolを4回(6回だったかも)走らせて結果を提出
して「よしっ!」と思っていたらrc3が出た、という時がありまして、rc3のテス
トは一度くじけそうになったので、そのあたりのも何か決まっていればいいか
と思いました。たとえば、さまざまなプラットフォームで行う最終のリリース用
のテストは英語版のリリースを確認してから行なうというのはどうでしょうか。


以上、あれこれ書きましたが、今後のQAに役立てば幸いです。

-- 
-
matuaki
matuaki@ma-office.org
http://openoffice.sblo.jp/

-
To unsubscribe, e-mail: 
[メールアドレス保護]
For additional commands, e-mail: 
[メールアドレス保護]