BGToolはシリアルポートを介してBluetooth®モジュールと通信を行います。その通信が正しく行えていない際にこのエラーが生じます。

確認するポイントとしては以下のとおりです。

• ハードウェアが正しくセットアップされているか（給電されているか？Bluetoothモジュールがマザーボードに根元まで挿入されているか）
• ボーレートが正しく設定されているか

• モジュール内のファームウェアでUART関連が有効になっているか（UARTを有効にしているか？BGAPIプロトコルを有効にしているか？）

 
注意点として、メーカー出荷時に書かれているファームウェアはBGToolとの通信に対応していません。BGToolとの組み合わせで評価する場合には、BT121の場合は\\example\bt121にあるサンプルコードを、BGM111の場合は\\examples\wstk_bgapiをダウンロードしてください。
この件はSiliconLabsコミュニティサイトに記載がありますので、併せてご参照ください。