要解开手游中的AB文件，你可以使用以下方法：

使用专门的工具

Ambling Bookplayer：这是一个可以播放AB格式音频文件的播放器，并且可以通过它将AB格式转化成MP3格式。

UABE：这是一个可以解包AB文件的工具，但可能需要一些技巧来使用。

Android备份文件解包工具（abe.jar）：这是一个Java环境下的工具，支持解压AB文件。

使用IDA Pro

如果你有编程能力，可以使用IDA Pro反汇编工具来分析AB文件中的函数调用，找到解密函数并进行解密。根据一些线索，解密过程可能涉及到使用AES算法和RFC2898生成的密钥。

编写自定义程序

根据IDA Pro的分析结果，你可以尝试编写一个自定义程序来解密AB文件。注意，AB文件可能并非整个加密，而是部分加密，这可能会影响解密过程。

建议

如果你只是想播放AB文件，使用Ambling Bookplayer或UABE可能就足够了。

如果你需要更深入地了解AB文件的结构和加密方式，并且具备编程能力，那么使用IDA Pro和编写自定义程序可能是更好的选择。

在尝试解密之前，请确保你了解可能涉及的法律和道德问题，因为未经授权地解密和分发受版权保护的内容是违法的。